[책 리뷰] AGI의 시대

한빛미디어의 '나는 리뷰어다' 12월 서평단으로 'AGI의 시대' 책을 선택하여 종이책으로 받아 읽게 되었다.

 

AI는 많이 들어봤을 것이다.
AI의 시대라고 보는 사람들도 많을 것이다.
하지만 AGI라는 단어는 낯선 단어이기도 하다.

AGI는 Artificial General Intelligence의 약자로 일반인공지능 혹은 인공일반지능이라고 불린다.
AGI에 대해 처음으로 부르기 시작한 사람이 누군지는 모르고, AGI에 대한 명확한 정의도 존재하지 않는다고 한다.
100명의 전문가에게 물어보면 100가지 답이 나올 정도라고 한다.

나는 AI전문가가 아니다. 그저 이 책을 접한 한명의 독자로 AGI를 소개하라고 한다면, 나는 인간을 뛰어넘는 AI라고 부를 것 같다.
AGI에 대한 레벨도 있고, 영역도 다양하다고 하지만, 결국 최종적인 목표는 인간을 뛰어넘는 AI가 아닐까 싶어서이다.

신기하게도 아직까지 AI의 대한 견해가 너무나도 다르다.
전문가들 혹은 유명한 기업인들의 의견도 모두 다르다.
AI가 정말 똑똑한지, AI가 진짜 생각을 할 수 있는지 등 다양한 의견이 공존하는게 참 재밌는 요소인거 같기도 하다.

개인적으로 결국 AI는 자가 발전을 하는 수준까지 진화하지 않을까 싶다.
아주 좁은 부분의 영역에서 스스로 발전을 이루는 알파고가 일반적인 영역에서도 사용이 가능해진다면, 그 때는 진짜 AI의 시대라고 부를 수 있지 않을까.

AI의 발전은 항상 좋은 것만을 가져오지는 않는다.
AI에게 지배 당할 수 있다. 같은 말이 괜히 나오는게 아닌만큼, 실제로 AI에 대한 이러한 논쟁을 하는 자리도 있었다고 한다.
인간의 지배를 벗어나는 행동을 하지 않을거라는 보장이 없으며, AI를 만드는 사람들의 성향에 따라 인간에게 위험한 AI가 충분히 만들어질 수 있다고 한다.
그 중 하나가 딥페이크 영상처럼 범죄에 활용되는 경우가 될 것 같다.

이런 위험성이 있기 때문에, AI에 제약을 걸 수 있는 수단을 준비해야 한다는 글이 많다.
개인적으로 AI에 대한 제약을 걸 필요는 있다고 생각한다.
어느 방향으로든 범죄에 사용이 될 수 있을거고, 어떤 방면으로 사용하냐에 따라 AI의 위험성은 극도로 올라갈 수 있다고 생각하기 때문이다.

참 재밌는건 AI는 인간에 해를 끼치기에는 아직 멀었으며, 벌써부터 걱정하지 않아도 된다는 의견도 많은 것 같다.
이 책의 재밌는 점은 이런 다방면의 시각에서 AI에 대한 관점을 안내하고 있다는 것에 있는 것 같다.

AI의 발전함에 있어 얼라인먼트 문제라고 하는 것을 해결해야 할 과제라고 한다.
얼라인먼트 문제란 인간의 가치에 일치하는 판단을 하도록 AI 시스템을 어떻게 만들것인가에 대한 문제이다.

책에서는 트롤리 문제를 가지고 소개를 하는데, 답이 없는 문제에 대해 AI가 어떻게 접근할지에 대한 관점도 재미가 있었다.
모델 마다 다른 경향을 보이고 있어 흥미로운 부분이었다.
(트롤리문제: 달리는 기차의 선로에 5명의 사람이 있고, 다른 선로에는 1명의 사람이 있을 때 레버를 돌리냐에 대한 문제)
https://namu.wiki/w/%ED%8A%B8%EB%A1%A4%EB%A6%AC%20%EB%94%9C%EB%A0%88%EB%A7%88

트롤리 딜레마

 

---

이 책은 전반적으로 AGI 시대가 도래함에 따라 다양한 관점에서의 해석과 의견을 보여주고 있다.
다양한 의견들을 접할 수 있어서 AI에 대한 철학적 접근에 관심이 있다면 읽어보기 좋은 책 같다.
글은 전반적으로 잘 읽히는 편이지만, 참 여러가지로 생각을 할 수 있게 만드는 책이다.

AGI 시대는 결국에는 오게 될 것이다.
AI도 결국에는 발전할 것이고, 언젠가는 인간을 뛰어넘는 AI도 만들어질것이라고 생각한다.
다만, 이 AI를 어떻게 응용할지, 어떻게 사용해갈지는 결국 사람이 정하지 않을까 싶다.

AI의 발전은 인류에 큰 혁명을 가져올 것이지만, 그와 비례하게 인류에 큰 위협이 될 수도 있을거다.
그 위험 때문에 AI의 발전이 막히지는 않을 것 같다.
결국에 AI는 발전할 것이고, 그 AI를 따라가는게 인간의 역할이 되지 않을까 싶다.

한편으로는 기대가 되기도 한다.
AI는 굉장히 빠르게 발전하고 있어서 앞으로 10년 뒤에 어떤 세상이 펼쳐질지가 기대된다.
우리는 AI의 덕을 보고 있을까?
혹은 AI에 두려움을 느끼고 있을까?

<한빛미디어 <나는 리뷰어다> 활동을 위해 책을 제공받아 작성된 서평입니다.>