‘인공지능(AI)의 대부’로 널리 알려진 제프리 힌턴(75) 박사가 지난 1일(현지시간) 구글을 그만두며 AI 발전으로 인한 위험성이 증가하고 있다고 경고했다.
힌턴 박사는 미 ‘뉴욕 타임스’에 보낸 성명을 통해 자신의 업적을 후회한다고 밝히며 구글에서 사표를 냈다.
힌턴 박사는 BBC와의 인터뷰에서도 AI 챗봇으로 인한 위험 중엔 “매우 무서운” 내용도 있다고 밝혔다.
“지금 당장은 AI가 우리보다 지능이 높은 건 아닙니다만, 곧 넘어설 수도 있다고 생각합니다.”
그러면서 “올해 나이 75세다. 은퇴할 때”라며 퇴사를 결정하는 데 나이 또한 고려해 사임하게 됐다고 인정했다.
힌턴 박사는 영국계 캐나다 출신 인지 심리학자이자 컴퓨터 과학자로, 선구적인 딥러닝과 신경망에 관한 연구로 ‘챗GPT’와 같은 현재의 AI 시스템의 길을 연 인물이다.
힌턴 박사는 이번 BBC와의 인터뷰에서 AI 챗봇의 정보 수준이 인간의 뇌가 보유한 수준을 곧 추월할 수 있다고 경고했다.
“현재 등장한 GPT-4와 같은 모델도 이미 일반적인 지식의 양 측면에서 사람을 훨씬 능가하고 있습니다. (그러나) 아직 추론과 같은 분야에선 그리 뛰어나진 않은 수준이나, 이미 간단한 추론 정도는 할 줄 아는 수준입니다.”
“또한 발전 속도를 생각하면 (AI 모델은) 상당히 빠르게 발전할 것입니다. 그렇기에 우리는 이에 대해 걱정할 필요가 있죠.”
한편 뉴욕 타임스 기사에서 힌튼 박사는 AI를 “나쁜 일”에 사용하려는 “악의적인 이들”을 언급한 바 있다.
BBC가 이에 대한 자세한 설명을 요청하자, “일종의 최악의 시나리오로 보면 된다. 악몽 같은 시나리오”라는 답이 돌아왔다.
“일례로 블라디미르 푸틴 [러시아 대통령]과 같은 악의적인 이들이 로봇이 자신만의 하위 목표를 설정할 수 있는 능력을 줘버리는 상황인 거죠.”
그러면서 힌턴 박사는 이러한 상황에서 AI 로봇들이 ‘난 더 많은 힘이 필요하다’와 같은 하위 목표를 설정하게 될 수도 있다고 경고했다.
“현재 우리가 개발하고 있는 지능은 우리가 지닌 지능과는 매우 다른 종류라는 결론을 내리게 됐습니다.”
“우리는 생물학적 시스템이고, 이것들은 디지털 시스템이죠. 가장 큰 차이점은 디지털 시스템에선 같은 복사본이 더 많다는 점입니다.”
“그리고 이 모든 복사본은 개별적으로 학습하면서도 즉시 지식을 공유할 수 있습니다. (예를 들어) 마치 1만 명의 사람들이 있는데, 한 사람이 무언가를 배울 때마다 모든 사람이 자동으로 이를 알게 되는 거죠. 이것이 바로 챗봇이 사람보다 훨씬 더 많은 정보를 습득하는 방법입니다.”
한편 그러면서도 힌턴 박사는 구글을 비판하고 싶지 않다며, 구글은 “매우 책임감 있다”고 강조했다.
“저는 사실 구글에 대해선 몇 가지 좋은 말을 하고 싶습니다. 오히려 제가 구글을 떠나면 구글의 신뢰성을 더 높아질 테죠.”
한편 제프 딘 구글 수석과학자는 성명을 통해 “우리는 AI 분야에서 책임감 있는 접근법을 고수한다. 이로 인한 새로운 위험 요소를 이해하는 동시에 과감히 혁신하는 법을 찾고자 끊임없이 배우고 노력한다”고 밝혔다.
