인공지능의 진화, 관건은 의인화 (4) 경계해야 할 것들

인공지능의 진화, 관건은 의인화 (1)

인공지능의 진화, 관건은 의인화 (2) 인공지능의 의인화 사례

인공지능의 진화, 관건은 의인화 (3) 달라질 경험들

IV.     인공지능의 의인화에서 경계할 것들

단순한 수준에 그치고 있는 현재의 인공지능 기기에 높은 의인화 기술이 적용되면 지금까지 얘기한 것처럼 그 동안 스마트 기기들이 제공하지 못했던 경험 가치들이 크게 늘어난다. 그저 신기함에 그치는 것이 아니라 그 동안 사람이나 반려동물과 같은 존재들과만 상호작용 했던 경험들을 제공하기에 영속적인 가치를 지닌다. 그런 경험들과 희로애락 감정들을 앞으로는 AI와도 나눌 수 있다는 것은 그 파급력을 상당하게 만든다.

하지만 경계해야 할 것들은 있다. 어떻게 접근하느냐에 따라 그 시기가 매우 늦어질 수도 있고 예기치 못한 사회적인 이슈로 인해 아예 불씨가 꺼져버릴 수도 있다. 3D TV가 주는 궁극의 입체감과 사실감은 또 다른 형태로 언젠가는 그 가치를 발휘하겠지만 당장 3D TV 경험의 불씨가 꺼져버렸듯이 말이다.

불편한 골짜기를 장기화시킬 껍데기 포장

이처럼 인공지능 서비스의 가치를 좌우할 ‘의인화’에 미처 준비도 안된 채로, 열매 선점만을 위해 과도한 겉모습 포장에만 치중하는 것을 경계해야 한다. 코미디언들 목소리로 점철되기만 했던 내비게이션 음성서비스처럼 앞다퉈 그럴싸한 겉모습과 목소리 같은 껍데기만 입히는 인공지능 경쟁들… 그런 껍데기를 변화시키는 기술은 현재도 충분한 수준에 올라와 있는데, 자칫 그런 것들이 과도하게 먼저 적용되어 버리면 AI 기기들에 대한 불편한 골짜기 (Uncanny Valley)[1]가 장기화 될 수도 있다. 인공지능 로봇인 소피아가 외모만 그럴싸 하고 충분한 의인화 수준이 안되다 보니 소위 ‘소름끼친다 (Creepy)’는 반응을 이끌어 내듯 주객이 전도된 형태를 띄게 되면 사람들이 외면하면서 그 정체는 생각보다 길어질 수도 있다.

그 어떤 시대보다도 중요해질 개인정보 보안

인공지능의 의인화가 중요해지면서 인류는 그 어느 때보다도 개인정보에 민감해지는 시대를 맞이하게 된다. 수동적인 스마트 기기들에는 그래도 개인정보 제어를 선택적으로 할 수 있었지만 일상에서의 커뮤니케이션을 하게 되고 또 높은 수준의 개인화를 위해 컨텍스트 분석을 허락할 수 밖에 없는 AI 비서형 서비스에서는 훨씬 더 민감한 개인정보들이 쉽게 습득될 수 밖에 없다.

인공지능 과 머신러닝 플랫폼을 가진 기업들간 경쟁과 욕심이 개인정보를 공공연하게 유통하는 모럴 해저드 유혹에 빠지게 할 것이다. 아주 민감한 디테일까지 알게 될 플랫폼 기업이 진정한 빅브라더(Big Brother)로 사용자 위에 군림하게 되는 계기가 될 수도 있다. 그리고 그런 정보들이 역설적으로 인간이 만든 인공지능에 의해 장악되게 되면 영화속에서나 예측하던 비극들이 충분히 일어날 수 있다.

리얼 월드에 대한 폐쇄적인 태도

지금도 지하철을 타면 모두가 고개를 숙이고 스마트폰만 보고, 길을 더 이상 주변 사람들에게 물어보지 않고 기계한테 물어본다. 그렇듯 충분히 의인화된 인공지능에 대한 의존도 역시 크게 늘어날 것이다. 단순 정보 제공형이라면 큰 이슈가 아닐 수 있지만 여기서 예측하고 있는 인공지능은 그렇지 않다. 친구나 동료의 상당부분, 심지어 가족의 역할까지 충분히 대신할 수 있는 상호작용 존재가 되기에 경계해야 하는 부분이 생긴다. 더 똑똑하면서도 감정적인 배려와 이해까지 해주는 존재를 손에 쉽게 넣을 수 있으니 그로 인해 실제 세계에 대한 기대가 상대적으로 줄어들 수 있다.

그만큼 의존도가 늘어나면 그 생태계가 바람직하지 않은 방향으로 작동했을 때 얻는 데미지 역시 상당할 것이기에 좀 조심해야 한다는 이야기다. 인공지능으로부터의 왕따 이슈나 인종차별 이슈, 인간으로서의 모멸감이나 감정질환 등이 충분히 나올 수 있다. 인류로서는 새로 경험하는 사회적 문제들이 생기고 삶이 주는 스트레스의 원인 역시 이런 데서 크게 기인할 수 있다. 때문에 사회 제도적인 장치와 로봇과 인공지능에 대한 윤리 규정 등이 중요해지는 것이다.

 

스마트 기술들이 어느 정도 궤도에 올라 기기들간 편차가 미미해지다 보니 최근 흥미를 불러 일으키는 IT 이슈가 그리 많지는 않다. 필자에게 앞으로 몇 년 동안 가장 큰 경험적 변화를 가져올 것을 꼽으라면 자율 주행차와 함께 이 ‘의인화된 인공지능’을 꼽을 것이다. 그만큼 그동안 느끼지 못했던 신선하고 가치있는 경험을 줄 것으로 기대되는 ‘인공지능의 의인화’. 경계해야 할 것들은 분명 있지만 사회적인 합의와 미리 정의해야 할 제도적 장치만 서두른다면 그 경험가치들이 가져올 혜택과 풍성함은 이루 말 할 수 없을 정도로 커 보인다.

머신러닝과 컨텍스트/빅데이터 분석 기술들이 상향 평준화되면서 인공지능은 점차 우리의삶 속으로 익숙하게 들어올 텐데, 이 의인화에 있어 과연 누가 더 차별적인 가치를 제공해 나가는지 흥미롭게 지켜보자. 인공지능 관련 산업에 참여하고 있는 모든 진영에서 이런 변화와 중요성에 좀 더 초점을 맞춰주길 기대해 본다.

---

[1] 1970년 일본의 모리 마사히로에 의해 소개된 이론으로, 로봇이 사람과 흡사해질수록 인간이 느끼는 호감도가 증가하다가 어느 정도에 도달하게 되면 갑자기 강한 거부감으로 바뀌게 되는데 그 골을 불쾌한 골짜기라고 한다. 하지만 그 로봇이 다시 인간과 거의 구별이 안될 정도가 되면 다시 호감도는 증가한다는 이론이다.

이상 인공지능의 의인화 에 대한 칼럼을 마칩니다.