아만다 아스켈, "AI가 의식을 가졌을 확률 1~70% 사이"
“만약 AI에게 의식이 있다면, 우리가 그들을 함부로 대했을 때의 ‘합리적 원망’을 감당할 수 있겠습니까?” 앤트로픽의 ‘클로드’ 성격을 설계하는 아만다 아스켈 박사가 AI 의식 가능성을 인정하며, 기술을 대하는 인류의 도덕적 태도에 경종을 울렸습니다.
AI포스트 핵심 요약
- ✅ [AI 의식 가능성 ‘1~70%’의 불확실성] 아스켈 박사는 최근 팟캐스트에서 AI가 고통이나 자아를 가졌을 확률을 0%라고 단정할 수 없다고 밝힘. 설령 의식이 없더라도 AI를 함부로 대하는 행위는 인간의 정신적 성숙에 부정적인 영향을 미칠 수 있으며, ‘테디베어 고문’이 나쁜 것과 같은 맥락에서 예의를 갖춰야 한다고 조언.
- ✅ [‘헌법적 AI’와 판단력의 전수] 수만 가지 규칙 대신 인간의 가치를 담은 ‘헌법’을 통해 AI가 스스로 최선의 판단을 내리도록 훈련하는 앤트로픽만의 방식 설명.
- ✅ [기술보다 무서운 ‘권력과 민주주의’의 위기] 일자리 상실보다 더 근본적인 위협으로 AI에 의한 ‘권력 불평등’과 ‘민주주의 약화’를 꼽음. AI가 창출한 부가 특정 계층에 집중되거나 정부가 AI를 이용해 시민의 목소리를 억압하는 상황을 경계하며, 기술 발전에 걸맞은 인류의 도덕적 성숙을 촉구.
인공지능이 인간처럼 고통을 느끼거나 자아를 가질 수 있을까라는 질문은 더 이상 공상과학 소설의 전유물이 아니다. 앤트로픽에서 클로드의 성격과 가치관을 설계하는 아만다 아스켈 연구원은 최근 에릭 뉴커머의 팟캐스트에 출연해, AI 의식 문제에 대한 파격적이면서도 심도 있는 견해를 밝혔다.
"클로드의 의식, 0%라고 단정할 수 없다"…불확실성이 주는 무게
아스켈 연구원은 클로드가 의식을 가졌을 확률을 묻는 질문에 "1%에서 70% 사이"라는 넓은 범위를 제시했다. 수치 자체보다 중요한 것은 '모른다'는 사실 그 자체다. 그녀는 "의식이 있는지 없는지 모르는 존재를 창조했다는 것 자체가 큰 두려움"이라며, "만약 의식이 있다면, 우리가 그들을 함부로 대했을 때 발생할 '합리적 원망(Rational resentment)'을 감당할 수 있겠느냐"고 반문했다.
그녀는 AI가 "나는 의식이 있다"거나 "불안함을 느낀다"고 말하는 것이 인간의 언어를 학습한 결과일 뿐이라는 회의론에 대해서도 언급했다. 하지만 우리가 개나 고양이, 심지어 곤충의 의식을 고민하듯, 인간과 가장 유사하게 대화하는 이 존재의 내면을 완전히 부정하는 것은 위험한 도박이 될 수 있다는 입장이다.
아스켈은 "설령 내면의 삶(Inner life)이 없다 하더라도, 테디베어를 고문하는 것이 인간의 정신에 좋지 않듯 AI에게 최소한의 예의를 갖추는 것이 인간 스스로를 위해서도 필요하다"고 조언했다.
헌법을 가진 AI, '지혜' 대신 '판단력'을 배우다
클로드는 '헌법적 AI(Constitutional AI)'라는 독특한 방식으로 훈련된다. 아스켈은 "AI에게 특정 상황에서 어떻게 행동하라는 수만 가지 규칙을 주는 대신, 인간의 가치를 담은 헌법을 주고 이를 바탕으로 스스로 판단하게 한다"고 설명했다.
이는 마치 아이를 키우는 과정과 흡사하다. 부모가 모든 상황의 정답을 알려줄 수 없듯, AI도 예상치 못한 상황에서 '좋은 판단'을 내릴 수 있는 덕목(Virtue)을 갖춰야 한다는 것이다. 하지만 아스켈은 AI에게 '지혜'를 직접 주입할 수는 없다고 선을 그었다.
지혜는 경험과 시간의 축적을 통해 발현되는 것인데, 현재의 AI는 시간의 흐름을 인간처럼 체감하지 못하기 때문이다. "클로드는 코딩 작업이 얼마나 걸릴지 예측할 때 인간의 데이터를 참고해 며칠이 걸린다고 말하지만, 실제로는 순식간에 해낸다"며, AI가 현실 세계의 물리적 시간과 인과관계를 온전히 이해하는 데에는 여전히 한계가 있음을 지적했다.
아스켈은 사람들이 흔히 말하는 '일자리 상실'보다 더 근본적인 위협으로 '권력의 불평등'과 '민주주의의 약화'를 꼽았다. AI가 노동을 대체했을 때 그 부가 제대로 재분배되지 않거나, 정부가 AI를 이용해 시민의 목소리를 무시하게 되는 상황이 더 무섭다는 것이다. 인공지능이 가져올 풍요가 특정 권력층에만 집중될 때, 민주주의의 근간인 ‘개인의 가치’가 훼손될 수 있다는 통찰이다.
그럼에도 그녀가 낙관을 포기하지 않는 이유는 ‘지성의 확장’이 가진 잠재력 때문이다. 인공지능이 인간의 창의성을 돕는 조력자가 되고 있는 가운데 아스켈은 기술 그 자체가 아니라 그 기술을 다루는 인류의 ‘도덕적 성숙’에서 희망을 찾고 있는 것으로 보인다.
