AI 쉬운 이해 (3) 인공지능 한계점과 취약점, AI 미래와 전망

이번 포스팅에서는 인공지능의 미래와 인공지능 한계점, 취약점에 대해서 함께 정리해보고자 합니다.

참고로 본 포스팅은 “인공지능의 쉬운 이해”라는 시리즈로 아래와 같이 3가지 포스팅으로 구성되어 있습니다. 대강 과거, 현재, 미래와 같은 방식으로 정리하려고 합니다.

(1) 인공지능 역사 및 유래 / 반복되는 싸이클

(2) 인공지능 기계학습 차이 및 기계학습 딥러닝 차이와 구분 방법

(3) 인공지능의 미래와 한계점, 취약점, 단계적 진화 방향성 << 현재 포스팅

앞선 포스팅에서는 인공지능(AI, Artificial Intelligence)와 기계학습(ML, Machine Learning) 그리고 딥러닝(DL, Deep Learning)에 대해서 각각 정의해보고 인공지능 기계학습 차이와 기계학습 딥러닝 차이에 대해서 구분해보았습니다.

이번 포스팅에서는 앞서 다루었던 인공지능의 역사와 현재 기계학습이나 딥러닝 기술을 기반으로 앞으로의 인공지능의 미래에 대해 인공지능의 성능 구분으로 사용하는 ANI(Artificial Narrow Intelligence), AGI(Artificial General Intelligence), ASI(Artificial Super Intelligence) 개념에 대해 살펴보고 인공지능 한계점 그리고 취약점에 대해서 함께 정리해보려고 합니다.


인공지능 성능 구분 – ANI, AGI, ASI

인공지능 미래와 인공지능 한계점에 대해 다루기 전에 요즘 자주 통용되는 인공지능 성능 수준으로 이야기를 하는 ANI, AGI, ASI라는 용어에 대한 이해가 필요합니다.

인공지능은 성능에 따라서 약 인공지능(Week AI 또는 ANI, Artificial Narrow Intelligence)와 강 인공지능(Strong AI 또는 AGI, Artificial General Intelligence) 더불어 초 인공지능(ASI, Artificial Super Intelligence)로 구분하여 설명하는 경우가 많습니다.

인공지능 한계점

(참고로 이러한 ani, agi, asi 개념 설명에 대해서는 여기링크(영문)에 있는 Britannica에 설명이 잘 정리되어 있는 것 같습니다.)

약 인공지능(ANI)의 경우 단순히 인간의 능력 일부를 시뮬레이션 하거나 훈련 받은 특정 문제만 잘 수행하는 인공지능으로,

강 인공지능(AGI)의 경우 인간의 마음을 복잡한 정보처리로 구현하여 인간이 수행 가능한 대부분의 지적 업무를 인간보다 빠른 속도로 이해하고 학습하는 인공지능으로 구분하여 설명하고 있습니다.

참고로 최근에 테슬라 또한 아래와 같이 휴머노이드 로봇 프로젝트 (일명 테슬라 봇)을 통해 테슬라가 인공일반지능 = 강인공지능(AGI)를 현실화하는데 역할을 하겠다고 발표한 바 있습니다.

인공지능 한계점

즉,

약인공지능(ANI) = 유용한 도구로 설계된 인공지능 = 특정 분야에서 활용가능한 인공지능

강인공지능(AGI) = 인간을 완전히 모방한 인공지능 = 다양한 분야에서 활용가능한 인공지능

초인공지능(ASI) = 강인공지능에서 자아까지 가진 인공지능 으로 구분됩니다.


강인공지능(AGI)과 초인공지능(ASI)의 미래

우선 현재까지 등장한 인공지능은 모두 약인공지능(ANI)로 구분되고 있습니다.

지금까지 인공지능으로 구현된 것들은 미리 정의된 알고리즘이나 방대한 양의 데이터를 기반으로 비교적 지능적으로 보이는 행동 또는 결정을 하게끔 구현된 수준입니다.

물론 학습 정도에 따라사 제한된 부냐에서 인간을 능가하거나 유사한 성능의 프로그램이 등장하기도 하지만 이는 인간의 학습 능력의 극히 일부일 뿐입니다.

결론적으로 강인공지능(AGI)는 결국 실현될 것으로 보는 시각과 아직도 출현시기가 멀 것이라는 시각이 팽팽한 상황이며, 이렇게 AI가 인간의 지적 능력 이상을 갖추게 되는 시기를 “특이점(Singularity)”라고 부릅니다.

인공지능 한계점

게다가 아예 초인공지능(ASI)의 등장 가능성은 낮게 보고 있습니다.

참고로 1970년대 마빈 민스키 교수는 8년 내 AGI가 등장할 것이라고 전망했고 그의 예상 외에도 수많은 전문가들이 60년간 AGI 등장 시점을 20년 후로 예측해왔습니다.

“In 3 to 8 years we will have a machine with the general intelligence of
an average human being.”

Marvin Minsky, 1970

그러나 아직도 강인공지능(AGI)가 아닌 약인공지능(ANI)가 구현되고 있는 것이 인공지능 한계점이라 현실 입니다.


인공지능 한계점과 인공지능 발전, 진화의 장애물

우선 인공지능은 데이터 의존성과 데이터 편향성이라는 인공지능 한계점이 존재합니다.

(1) 데이터 의존성

인공지능은 알고리즘을 학습시킬 때 필요한 수많은 데이터가 필요하며,

데이터가 없거나 접근성이 낮을 경우에는 성능이 매우 떨어집니다.

(2) 데이터 편향성

또한 이러한 학습데이터가 편향될 경우에는 인공지능의 판단 자체가 편향됩니다.

예를 들어 아마존의 경우 AI채용 시스템을 성차별 문제로 폐지하였는데, 채용 데이터 중 남성의 비율이 매우 높았기 때문에 여성이라는 이유로 AI가 감점을 하고 남성에게 유리하게 판단했기 때문입니다.

(3) 노동 의존성

또한 인공지능은 노동 의존성 또한 매우 높은 편 입니다.

인공지능 기술의 대부분을 차지하는 지도학습은 인간이 하나하나 데이터에 레이블을 달아주고 분류 및 가공 작업을 거친 다음 데이터를 직접 입력하고 지도를 해야합니다.

(4) 인공지능 작동 원리의 불투명성

개인적으로 인공지능 한계점이자 가장 큰 문제라고 생각되는 부분은 인공지능의 작동원리 입니다.

딥러닝은 입력된 데이터와 결과를 통해 작동원리를 도출합니다. 하지만 이렇게 도출된 결과 설명이 어려운데, 작동원리를 알기 어려우며 결국 나타난 성능에 의존할 수 밖에 없습니다.

그렇기에 응용이 어렵다는 한계점도 존재합니다. 인공지능은 아직 특화된 산업이라 알고리즘 적용 방식이 비슷하더라도 환경이 바뀌면 완전히 새로운 학습이 필요합니다.

인공지능 한계점

이러한 확장성의 한계는 ANI가 AGI로의 전개 필요성으로 많이 논의되는 부분입니다.

이것으로 3가지 시리즈로 구성한 인공지능의 과거, 현재, 미래에 대해 간단하게 개념 이해 소개 측면으로 작성한 글을 마칩니다.


참고로 본 포스팅은 “인공지능의 쉬운 이해”라는 시리즈로 아래와 같이 3가지 포스팅으로 구성되어 있습니다. 대강 과거, 현재, 미래와 같은 방식으로 정리하려고 합니다.

(1) 인공지능 역사 및 유래 / 반복되는 싸이클

(2) 인공지능 기계학습 차이 및 기계학습 딥러닝 차이와 구분 방법

(3) 인공지능의 미래와 한계점, 취약점, 단계적 진화 방향성 << 현재 포스팅

Leave a Comment