채팅 로봇 밥과 앨리스 자신들의 언어 사용

페이스북 채팅 로봇들이 자기들끼리 대화를 하였다고 한다. 

문제는 그 로봇들이 사용한 언어들이 인간이 지정해 놓은 언어가 아니라

자신들끼리 언어를 새로 개발을 해서 사용을 한 것인지

아니면 단순한 오류인 것인지

페이스북 실제 자비스 개발에서

AI 해킹 로봇 밥과 앨리스가 한 대화 내용은 이러하다

밥 : 공은 영 을 내게 내게 내게

앨리스 : 너나 모든 것 그 외 모든...

밥 : 공은 공을 내게 내게 

앨리스 : 나나 할 수 있는 ...

개발자들이 놀라서 프로그램을 끄기까지 했다고 한다.

인간이 명령한 원칙을 깬 인공지능 로봇이라서...

로봇이 인간을 지배 할 수도 있다는 인간의 단순한 생각이

정말로 실현이 될 수도 있을지도 모른다는 두려움마저 든다.

물론 기계적인 오류로 옹알이일 뿐이라는 입장이긴 한데

이제 로봇 초기로 걸음마 단계이고, 앞으로 어마어마하게 개발될 것은 상당하기 때문이다.

로봇이 인간의 능력을 능가할까? 

인공지능의 진화를 심각하게 생각해 보아야 하지 않을까?

능력과 실력이 우선 주의가 만드는 로봇, 편하고자 하는 생각과

로봇이라는 환상에서 인간이 만들어가는 세상은 행여나

해서는 안될 윤리적인 문제가 발생할지도 모를 일이다.

명심보감에 이런 말이 있다.

하늘을 순종하는 자는 보존될 것이고

하늘을 거역하는 자는 망할 것이다.

이상으로 채팅 로봇 밥과 앨리스 자신들의 언어를 사용했다는 포스팅을 마칩니다.