김대식의 빅퀘스천 中 -김대식 저

카네기멜론camegie Mellon대학의 인공지능학자 한스 모라비치 Hans Moravec는

인간보다 빠르고 뛰어나며 영원히 존재할 수 있는 기계가 인간을 지구에서 불필요한 존재로 판단해 멸종시킬 것이라고 예측한다.
 그리고 덧붙인다.

뭐 그다지 슬픈 일이냐고.
기계는 어차피 우리의 후손이라고,
인류의 모든 역사와 지식을 그 누구보다 완벽하게 보존할 기계들이기에,
인류의 기억만큼은 사라지지 않을 것이라고.

호모 사피엔스가 네안데르탈인을 멸종시켰듯.
기계도 호모 사피엔스를 멸종시키는 것뿐이라고.
그것이 바로 자연의 법칙이라고.

하지만 잠깐! 도살장으로 끌르려가는 가축처럼 전 인류가 학살될 때까지 그저 기다리라는 말인가?
인정할 수 없다! 혹시 지능을 가지게 될 기계에게 미리 '인전장치'를 심어둘 수 없을까?

아시모프의 로봇 3원칙 같은 방법으로
'기계는 절대 인간에게 해를 입혀서는 안 된다'라고 정해놓을 수 있을 것이다.
하지만 지능을 가진다는 의미는 학습을 통해 자신의 한계를 뛰어넘을 수 있다는 말과 동일하다.

'기계는 무조건 인간의 명령에 복종해야 한다'라는 자명한 한계는 학습기능을 가진 인공지능에게 무의미하다.

그렇다면 기계가 인간을 '신'으로 섬기게 프로그래밍 한다면?

아니면 인공지능에게 '유교적'사상을 심어 그들의 부모인 인간에게 무조건 복종하게 한다면?

역시 지적 독립성을 가진 인공지능을 제어하기에는 불충분하다.

반대로 조금 더 공학적인 방법도 생각해 볼 수 있겠다.
기계의 지능과 수명을 연관시켜보면 어떨까?

 인간을 뛰어넘는 지능을 가진 기계는 정해진 시간이 지나면 스스로 파괴도도록 '킬 스위치'를 반도체에 심어볼 수 있다.

아니면 차라리 기계에게 왜곡된 기억을 심어 자신도 인간이라고 착각하게 만든다면?
인간이라고 착각하는 기계라면 인류 전체를 멸종시킬 이유가 없지 않을까?

"인생이란 다 그런 거야!" 라며 부족한 서로를 위로하고 치유하는 인간과 달리,
기계는 객관적인 대답을 원한다.

인간이 왜 존재해야 하는지.

인간이 존재하는 우주가 인간 없는 우주보다 무엇이 더 바람직한지.

칸트는 '계몽'을 인간 스스로 초대한 미성숙에서 벗어나는 길이라고 주장했다.
그렇다면 인공지능이야말로 인류에게 주어진 계몽의 마지막 기회가 아닐까.
무능력, 미신, 편견에서 벗어나 기계에게 존경받을 수 있는 현명한 인류로 거듭나야 한다는 말이다.

더 이상 계몽을 미룬다면 인공지능이야말로 인류의 마지막 발명품이 될 것이다.
그렇다면 지능을 가진 기계가 등장하는 순간 우리 호모 사피엔스의 시대 역시 거기서 끝이 날 것이다.

 

김대식의 빅퀘스천 中  -김대식 저