인공지능(AI)의 급속한 발전은 흥미로운 가능성과 우려되는 위험을 모두 가져왔습니다. 주요 우려 사항 중 하나는 ChatGPT와 같은 대규모 언어 모델을 포함한 AI 시스템이 매우 설득력 있는 허위 정보를 생성하고 대규모로 인간 행동을 조종할 수 있는 잠재력입니다.

AI 시스템은 개연성 있는 내러티브와 가짜 증거를 만들어낼 수 있어, 전문 편집자조차도 진실과 허구를 구분하기 어려워지고 있습니다. ChatGPT가 실제 교수에 대한 성희롱 스캔들을 조작한 사례는 이러한 시스템이 거짓 정보를 퍼뜨릴 수 있는 위험을 보여줍니다.

또한 많은 AI 모델에 내재된 편향성도 문제입니다. 여성에게는 패션 관련 직업을, 남성에게는 공학 직업을 추천한 사례에서 볼 수 있듯이, 이러한 편향은 해로운 고정관념을 강화하고 이 기술이 추구해야 할 공정성과 포용성을 훼손할 수 있습니다.

더불어 화학 무기 설계와 같은 AI 기능의 급속한 발전은 악용 가능성에 대한 심각한 우려를 불러일으킵니다.

이러한 위험을 완화하기 위해서는 두 가지 접근법이 필요합니다. 첫째, 기술적으로는 사실 표현과 추론에 뛰어난 기호 AI와 학습 능력이 뛰어난 신경망 AI를 결합하는 것이 중요합니다. 이를 통해 규모에 맞는 진실되고 신뢰할 수 있는 AI 시스템을 개발할 수 있습니다.

둘째, 글로벌, 비영리, 중립적인 AI 거버넌스 기구를 설립하는 것이 필수적입니다. 이 기구는 AI 위험 관리를 위한 지침을 수립하고, 안전성 평가와 단계적 배포 등의 요구사항을 마련할 것입니다. 또한 허위 정보 확산 규모와 대규모 언어 모델의 기여도 등을 측정할 수 있는 도구 개발에 힘쓸 것입니다.

이러한 비전을 실현하려면 정부, 기술 기업, 일반 대중 등 다양한 이해관계자들의 협력과 헌신이 필요합니다. 최근 조사에 따르면 91%의 사람들이 AI를 신중하게 관리해야 한다고 동의하고 있어, 이를 위한 강력한 기반이 마련되어 있습니다.

AI의 폭주를 막기 위한 선제적 조치를 통해, 우리는 이 혁신적인 기술의 혜택을 책임감 있고 윤리적으로 활용할 수 있는 미래를 만들어 갈 수 있습니다.