이번 포스팅에서는 인공지능의 한계점에 대한 이해를 위해 모라벡의 역설과 인공지능 프레임 문제 그리고 인공지능 혹한기에 대해서 정리해보려고 합니다.
인공지능 기술이 계속 발전하고 있지만 아직 상용화된 인공지능 SW와 지능형 로봇은 아직도 등장이 요원합니다.
아직 현재의 수준은 인공지능과 로봇이 강력해보여도 2족 보행이나 계단 오르기와 같이 사람에게 있어 매우 쉬운 작업 또한 제대로 수행하지 못합니다.
이를 두고 로봇 측면에서는 보스턴다이나믹스의 아틀라스라든지 시각적 인지 분야에 있어 인공지능을 예시로 사람의 수준을 능가했다고 하기도 합니다.
그러나 이는 비교 대상이 잘못된 부분도 있습니다. 스스로 주변 환경을 인식해서 노면 상태나 높이에 따라 걷거나 계단을 오르고 또는 특정 몇몇개의 객체가 아니라 어떠한 노이즈에도 막힘 없이 스스로 판단하여 분별이 가능한 수준은 구현이 어렵기 때문입니다.
즉 정형화되고 단순한 측면이 아닌 비정형화되고 복잡성이 높은 수준에 대해서는 아직 인공지능이나 지능형 로봇 대응이 어려운 상황입니다.
이러한 인공지능 또는 AI 로봇 – 지능형 로봇의 한계점으로 자주 인용되는 말이 바로 모라벡의 역설과 인공지능 프레임 문제, 사고범위 문제 입니다.
이번 포스팅에서는 이러한 인공지능 한계점에 대해서 모라벡의 역설과 인공지능 프레임 문제를 통해 인공지능 혹한기에 대해 정리해보려고 합니다.
모라벡의 역설 (Moravec’s Paradox)
한스 모라벡(Hans Moravec)은 카네기멜론대 로봇공학연구소 교수로 미래학자이기도 한데요, 한스 모라벡이 1980년대에 제안한 이론입니다.
모라벡의 역설이란 인공지능 또는 로봇이 높은 수준의 추론을 위해서는 계산이 거의 필요없지만 반대로 낮은 수준의 기술 (걷기나 듣기, 보기, 느끼기) 등은 엄청난 양의 연산 리소스가 필요하다는 점 입니다.
이 역설은 1980년대에 한스 모라벡과 더불어 로드니 브룩이나 마빈 민스키 등에 의해 더욱 분명해졌습니다.
모라벡은 “컴퓨터가 지능테스트와 같은 통제된 정형화된 환경에서는 성인 수준의 성능을 보이는 것은 비교적 쉽지만 오히려 지각하고 이동하는 등의 쉬운 기술을 제공하기는 더 어렵거나 불가능하다”라고 하였습니다.
결국 사람의 일상적인 행동은 컴퓨터에게는 어렵지만 사람에게 어려운 연산이나 논리, 추론 등은 인공지능이나 지능형 로봇에게는 쉽다는 의미 입니다.
모라벡은 이러한 역설적인 현상에 대해서 인류의 기나긴 진화 과정을 기반으로 설명하였습니다.
즉, 걷거나 말하고 느끼는 등의 기능은 인류가 오랜 진화 끝에 최적화하여 구성한 기능이지만, 논리 능력이나 연산, 추론 등의 ㅇ니지 기능은 역사가 수천년에 불과할 정도로 비교적 최근에 학습된 기능으로 인공지능에 사람 역할을 모방하게 할 떄 인지적 작업보다는 사람의 본능적 기능을 분석해서 재구성하게 하는게 훨씬 어려운 일이라는 주장입니다.
인공지능 프레임 문제, 인공지능 사고 범위의 문제 (Frame Problem)
인공지능 프레임 문제, 인공지능 사고 범위의 문제란 1969년 존 맥카시(John McCarthy)와 패트릭 헤이즈(Patrick Hayes)에 의해서 논의된 이후 계속 대두되고 있는 문제입니다.
이 인공지능 프레임 문제는, Some Philosophical Problems from the Standpoint of Artificial Intelligence = 인공지능 관점에서의 몇몇 철학적 문제들에서 서술한 것이 최초입니다.
인공지능 프레임 문제란, 유한한 정보처리만이 가능한 로봇이 현실세계의 수많은 문제에 대처하지 못하는 현상으로 퀴즈 또는 게임처럼 룰이 분명히 정해진 것보다 해결 방법이 불분명하거나 무엇보다 인간의 상식을 필요로 하는 경우에는 대응이 어려워지는 현상을 말합니다.
실은 이러한 프레임 문제 이해를 위해서는 예시를 통한 방법이 가장 손쉬운데요,
아래는 철학자 다니엘 데넷이 Cognitive Wheels : The Frame Problem of AI = 인지 굴레: 인공지능의 사고범위 문제에 실은 예시입니다.
목표 – 동굴 안에 배터리 그 위에 시한폭탄이 설치되어 있음. 로봇에게 동굴에서 배터리를 꺼내올 것을 지시함
로봇1호 –
[결과]배터리를 가져온다는 Task에만 집중한 결과 폭탄도 함께 가지고 오면 어떻게 되는지 알지 못하여 폭발함로봇2호 –
[개량] 목적 수행에 부차적으로 발생하는 사항을 고려하여 개량함.
[결과] 로봇은 동굴에 들어가 배터리 앞에 도착해서 동작을 멈추고 그대로 있다가 시한폭탄이 폭발. 부차적으로 발생가능한 모든 사항을 고려하다가 무한한 처리 시간이 필요했기 때문.로봇3호 –
다니엘 데넷이 Cognitive Wheels : The Frame Problem of AI
[개량] 목적 수행에 관련 없는 사항을 고려하지 않도록 개량
[결과] 동굴에 들어가기 전에 동작을 멈춤. 목적에 관련없는 사항 또한 무한히 있기 때문에 그것들을 모두 고려하면 무한한 계산 시간이 필요하기 때문
위와 같이 인공지능 프레임 문제는 어떠한 Task를 실행할 때 목적과 관계있는 지식만 꺼내서 그것을 사용한다라는 인간이라면 지극히 자연스럽고 당연스럽게 할 수 있는 작업이 인공지능 또는 지능형 로봇에게는 얼마나 어려운지를 보여주고 있습니다.
인공지능 혹한기와 모라벡의 역설, 프레임 문제
앞서 설명한 바와 같이 인공지능의 3차례에 걸친 봄과 겨울은 아래와 같습니다.
– AI 창세기(1956년): 다트머스 콘퍼런스
– 제1차 AI붐 (1956~1974) : 간단한 문제 해결
– 제1차 AI 겨울(1974~1980) : 모라벡의 역설
– 제2차 AI 붐(1980~1987): 전문가 시스템
– 제2차 AI 겨울(1987~1993) : 프레임 문제
– 제3차 AI붐(1993~): 기계학습과 딥러닝
다트머스 컨퍼런스 이후 인공지능은 비약적으로 발전하면서 간단한 수학문제를 풀고 언어를 학습하기도 했습니다.
당시에도 인간과 유사한 지능을 가진 일반 지능 (General AI)가 등장하리라 생각하는 사람들이 많았지만 결국 모라벡의 역설에 발목이 잡힙니다.
인간에게 쉬운 것이 인공지능에게는 어렵다는 모라벡의 역설은 사람들에게는 너무 당연한 지식이 인공지능에게는 어려운 난제로 작용한다는 것을 알게 하였습니다.
결국 컴퓨터로는 복잡한 현실 속의 문제를 풀 수 없고 인간의 지능을 컴퓨터로 구현하는 것은 어렵다는 사실에 암흑기가 도래함과 동시에 투자가 급격히 줄고 인공지능 연구도 급감하게 됩니다. 당시에는 인공지능 연구가 조롱이나 놀림감이 되기도 했다고 합니다.
하지만 2차 인공지능 붐은 전문가 시스템과 함께 찾아옵니다. 즉 컴퓨터에 지식을 넣으면 인공지능은 점차 똑똑해진다는 것으로 지능 전체를 구현하지 말고 부분적으로 구현하자는 것으로 인공지능을 끝없이 가르치자는 방법 입니다.
한 분야를 파서 많은 지식에 대한 거대한 데이터베이스를 구축하면 해당 인공지능은 특정 분야의 전문가가 된다는 것인데요,
문제는 전문가 시스템은 지식을 많이 입력하면 할 수록 성능은 좋아지지만 반대로 입력하지 않은 지식에 대해서는 할 수 없다는 것이었습니다. 이 때문에 빠른 속도로 인공지능 한계점이 다시 대두되었고 이에 따라 인공지능 2차 혹한기가 오게 됩니다.
현재는 다시 인공지능 3차 붐이 온 상태입니다.
이번 포스팅에서는 이러한 인공지능 한계점에 대해서 모라벡의 역설과 인공지능 프레임 문제를 통해 인공지능 혹한기에 대해 정리해보았습니다.
앞선 포스팅에서 정리한 인공지능 관련 글은 아래와 같습니다.
인공지능 문제와 미래 (1) 강인공지능 불가능? 강인공지능 실패 사례
AI 쉬운 이해 (1) 인공지능 역사 및 유래 / 반복되는 싸이클