인간하고 유사한 반응을 보이는 로봇을 만든다면, 적어도 칼에 맞으면 아픈 반응을 보여라 식으로 생명체의 고통과 거의 같아 보이는 반응을 보이게끔 하기는 쉽겠죠. 그렇지만 그때 이들이 느끼거나 혹은 생각하는 것이 과연 우리가 느끼는 것과 같은 것일지는, 의문입니다. 그냥 아무런 느낌도 없는데 고통스러워하는 반응을 보이라고 입력되어 있으니 그런 반응을 보이는 것이겠죠. 
 
 인간의 경우에 고통은 싫으니 피하게끔 하고, 쾌감은 좋으니 더욱 받아들이게끔 하는 행동을 위한 수단이지만, 인공지능에겐 굳이 이 수단이 필요하지 않겠죠. 그저 느껴지는(감지하는) 순간 직접적으로 행동하도록 입력하면 되니까요. 그렇지만 생각해보면, 애시당초 이들에게 고통이나 쾌감을 입력하는 것이 가능할 것 같지가 않습니다. 우린 고통이나 쾌감이 어떤 느낌인지 알지만 기계에게 어떻게 그것을 느끼게 하지요? 고통을 느끼는 순간의 두뇌 상태를 그대로 복사 붙여넣기 할 수도 없는 노릇이고 말입니다. 결국 고통이라는 것은 두뇌의 특정 상태일 뿐이고, 그 목적은 회피 행동을 유발하는 것에 있는 것인데, 고통의 발현인 회피는 쉽게 모방할 수 있지만 우리 두뇌의 상태일 뿐인 '고통' 그 자체는 모방할 수 있을 것 같지가 않습니다. 

 그렇다고 생명과는 다른, 기계만의 고유한 고통을 입력하는 것은 가능할까요? 앞서 말한대로 감지하는 순간 회피토록하면 우린 그들이 고통을 느낀다고 생각할지도 모릅니다. 기계가 고통을 느끼는 방법이라고 생각할지도 모르죠. 허나 인간의 기준에서 보면 여전히 이것은 고통이라는 중간단계가 빠진 직접적인 행동일 뿐입니다. 결국 우리가 느끼는 것과는 다른 것이고요. 
 만일 자연발생한 기계 생명체가 존재한다면 아마도 그들 고유의 방식으로 인간이 느끼는 것과 유사한 고통을 느끼겠죠. 우린 지능을 통해 고통이라는 수단을 사용할 필요없이 행동에 직접 돌입하게끔 할 수 있지만, 고통이라는 것이 진화의 과정상 유리했기에 존재하는 것일테니까요. 그들도 자연적으로 진화한 존재라면 그러리라 생각합니다. 아마도 때로는 참을 수 있는 것이 생존에 더욱 유리했기에 그렇겠지요. 살을 내주고 뼈를 취한다는 식으로...
 아니면 그저 이물질의 침입을 감지하는 것 자체가 고통일지도 모릅니다. 고통스럽진 않지만 회피해야하니 그 느낌 자체가 고통이라고 일컬을 수 있겠죠. 하지만 이 경우에도 싫진 않은데 회피하라고 입력되어 있으니 회피하는 것뿐이라는 설명이 가능하겠네요. 결국 그 느낌 자체가 고통처럼 싫은 것은 아니라는 것이고...
 
 논의 자체가 조금 혼란스럽긴 합니다. 우린 아프니까 피하는 것일까요, 아니면 아픈게 싫어서 피하는 것일까요? 전 앞에서 아픈게 싫으니까 피한다는 식으로 말했는데, 아프다는 것이 정말로 아픈 것이기에 피하는 것인지 아니면 이물질이 들어오는 순간의 느낌이 '아프다'인지는 상당히 골치아픈 문제 같습니다. 예컨대 우린 반사신경으로 회피를 시행하죠. 이 경우에는 아프니까 피한다라고 할 수 있을지도 모릅니다. 아픈게 싫어서 피한다기 보다는요. 허나 때때로 아픈데도 참고 자신의 몸이 훼손되는 것을 감수하는 경우도 있으니, 아픈게 싫어서 피한다고 할 수 있을지도 모르겠습니다. 싫은 건 참을 수 있으니까요. 즉 고통이란, 로봇의 즉각적 회피와는 달리 우리에게 참을지 말지 선택권을 준다고 할까요.
 그렇다면 기계에게도 이런 선택권을 준다면 이건 고통이라고 해야할까요? 그렇다고 하더라도, 이들이 느끼는 것이 정말로 아픈 것인지는 모르겠습니다. 앞서 말했듯이 아프다는건 두뇌의 특정 상태일 뿐이니까요. 개인적으론 불가능하다고 생각합니다. 인간과 기계의 두뇌는 완전히 다른만큼 우리와 같은 고통을 느끼게 하는 것은 당연히 불가능하겠지요. 기계의 고통이라 한다면 그저 앞서 말했듯이 일종의 회피 선택권일 가능성이 높다고 생각합니다.

 음... 사실, 이런 식으로 따지고 따지고 따져들어가면 왜 아픈 것이 아프냐는 생각이 듭니다. 아프고, 그래서 싫고, 그래서 피한다. 이것이 고통이라고 본다면, 아픈 것은 왜 아픈 것이죠? 특정 배열의 신경 상태가 아픈 느낌이라는 것인데... 그게 왜 아픈지는 모르겠습니다. 진화하다보니, 이 상태의 신경 배열은 생명이 싫어하더라, 때문에 자연선택에서 이것이 선택된 것이더라, 그래서 고통이 된 것이다... 이것일까요, 아니면 진화가 그 신경 배열을 생명이 싫어하도록 만든 것일까요. 즉 이러한 상태의 신경 배열은 1+1=2처럼 당연히 아퍼야만 하는걸까요 아니면 그냥 그렇게 하도록, 우리가 로봇을 만들듯 일종의 입력이 이뤄진 걸까요. 이 경우의 입력은 우리가 지능으로 한 것과는 달리 자연선택과 진화가 한 것이겠지만...

 여기까지 써놓고 보니 정말 뭐가뭔지 알 수 없을 정도로 마구마구 써내려간 것 같기만 하네요. 쓰다보니 결국 이런 것 아닌가 하는 생각이 듭니다. 우리의 고통이란 진화에서 그저 그 전기신호가 전달되면 '싫다'는 반응을 보이라고 입력된 것일뿐 아니겠느냐고... 그러면 결국 로봇에게도 같은 식으로 입력하면 그것도 우리랑 똑같은 고통이고, 우리가 아프다고 느끼듯 걔들도 아프다고 느끼지 않겠느냐고. 그 아프다라는 것은 우리의 두뇌가 느끼는 아프다라는 신경 배열 상태와는 크게 다르겠지만, 그것도 결국 아픈 것일거라고, 말입니다. 우린 아프다고 느끼지만 결국 그것은 그 느낌을 싫어하라는 반응이라는 생각이 듭니다...