제시문
알파고가 인간 바둑 최고수를 꺾은 사건은 자연 세계에서 인간의 특권적 지위를 문제 삼고, 윤리학의 인간 중심적 전통에 도전한다. 우리는 이제 인간과 같은 또는 더 뛰어난 지능을 지닌 인공 지능도 도덕적 고려의 대상으로 인정해야 하느냐는 물음에 직면하는 것이다. 이 물음에 선뜻 동의하지 못하는 사람들은 인간성의 핵심을 지적인 능력이 아니라 기쁨과 슬픔, 공포와 동정심 등의 감정적인 부분에서 찾으려 한다. 예컨대 알파고는 경쟁에서 이겨도 승리를 기뻐하지 못하며, 우리도 알파고를 축하하며 함께 축배를 들 수 없다. 인간의 특정 작업이 인공 지능을 갖춘 로봇에 의해 대체되더라도 인간의 감정을 읽고 인간과 상호작용하는 작업은 대체되지 못하리라는 것이다.
하지만 최근에는 감정을 가진 로봇, 곧 인공 감정을 제작하려는 열망이 뜨겁다. 인간의 돌봄과 치료 과정을 돕는 로봇은 사용자의 세밀한 필요에 더 잘 부응할 것이다. 사람들은 인간과 정서적 교감을 하는 로봇을 점점 가족 구성원처럼 여기게 될지도 모른다. 그러면 로봇은 인간과 같은 감정을 가지고 인간과 상호작용하는 존재가 될 것인가? 로봇을 도덕 공동체에 받아들여야 하는가? 이 물음에 답하려면 인간에게 감정의 핵심적인 역할은 무엇인지 생각해 보아야 한다. 인공 지능의 연구도 그렇지만, 인공 감정의 연구도 인간의 감정을 닮은 기계를 만들려는 시도이면서 동시에 감정 과정에 대한 계산 모형을 통해 인간의 감정을 더 깊이 이해하는 과정이기도 하다.
감정은 인지 과정과는 달리 적은 양의 정보로도 개체의 생존과 항상성 유지를 가능하게 해 주는 역할을 한다. 또 무엇을 추구하고 회피할지 판단하도록 하는 동기의 역할을 한다. 한편 우리는 사회적 상호작용에서 서로의 신체 반응이나 표정을 통해 미묘한 감정을 읽어내고 그에 적절히 반응하며, 그런 정서적 교감을 통해 공동체를 유지한다.
그러나 로봇이 정말로 이러한 감정 경험을 하는지 판단하기는 쉽지 않다. 철학자들은 인공 지능이 인간과 똑같은 인지적 과제를 수행했다고 하더라도 그것은 의미를 이해하지 못하기 때문에 진정한 지능이 아니라고 주장했다. 인공 감정에 대해서도 마찬가지로, 감정을 입력 자극에 대한 적절한 출력을 내놓는 행동들의 패턴이 아니라 내적인 감정 경험으로 이해한다면 인공 감정이 곧 인간의 감정이라고 말할 수 없다. 인간만 보더라도 행동의 동등성은 심성 상태의 동등성을 함축하지 않기 때문에, 동일한 행동을 하는 두 사람이 서로 다른 감정을 느낄 수 있고 그 역도 가능하다. 로봇의 경우에는 행동의 동등성이 곧 심성 상태의 존재성조차도 함축하지 않는다.
로봇이 감정을 가지기 위해서는 감정을 인식하고 표현하는 데 그쳐서는 안 되고 내적인 감정을 생성할 수 있어야 한다. 그러나 거기에는 현실적으로 상당히 어려운 전제 조건이 만족되어야 한다. 첫째, 감정을 가진 개체는 기본적인 충동이나 욕구를 가진다고 전제된다. 목마름, 배고픔, 피로감 등의 본능이나 성취욕, 탐구욕 등이 없다면 감정도 없다. 둘째, 인간과 사회적으로 상호작용하기 위해 인간이 가지는 것과 같은 감정을 가지려면, 로봇은 최소한 고등 동물 이상의 일반 지능을 가지고, 생명체들처럼 복잡하고 예측 불가능한 환경에 적응할 수 있어야 한다. 그런데 복잡한 환경에 적응하여 행위할 수 있는 일반 지능을 가진 인공 지능에 도달하는 길은 아직 멀다. 현재 인공 지능이 제한적인 영역에서 주어진 과제를 얼마나 효율적으로 산출하는지 이외의 문제들은 부차적인 것으로 치부되고 있기 때문이다. 그렇다면 ㉠++진정한 감정이 없는 로봇을 도덕 공동체에 받아들일 이유는 없다++.