요즘 시대를 인공지능의 시대 또는 AI의 시대의 본격적인 시작이라고 하는 사람들이 많습니다. 국내외 할 것 없이 웬만한 대형 IT회사들은 AI개발에 총력을 기울이고 있습니다. 하지만 인공지능의 부작용 사례 또한 늘어나고 있는 추세입니다.
최근만 보아도 SNS에서 돌아다니는 딥페이크 기술이 적용된 거짓 사진과 허위 정보들로 이슈가 된 적이 많고 앞으로 더 늘어날 것에 대한 우려가 커지고 있습니다.
오늘은 인공지능이 만들어 낸 거짓 정보들이 얼마나 위험한 지에 대한 내용으로 다루어 보겠습니다.
미국 증시 하락 사건
2023년 5월 22일에 AI가 만든 허위 이미지 때문에 미국 증시가 하락한 사건이 있었습니다.
이날 오전 9시 30분쯤에 미국방부 펜타곤(The Pentagon) 청사 폭발 사진이 트위터 등 SNS를 통해 급속히 확산되었고 당시 상승세였던 S&P 500 지수가 한때 0.3%까지 하락했고 다우 존스 30 산업평균지수가 약 80p 하락하는 등 급락하는 사태가 발생했습니다.
하필 이 사진을 러시아 관영매체가 아무런 검증 절차도 없이 그대로 보도하며 SNS에 해당 이미지를 올리자 전 세계로 급속도로 퍼져나갔습니다.
다행히 10분여 혼란 동안 미정부의 해명 후 주가는 안정이 되었지만, AI 악용의 사례가 현실로 발생한 대표적인 사례가 되었습니다.
이로써 AI를 악용한 허위정보가 SNS를 통해 급속히 확산할 경우에 정보에 민감한 주식시장 같은 금융 환경에서는 사회적 혼란을 야기할 수 있다는 우려가 현실로 확인된 셈입니다.
AI로 인한 인터넷 정보의 신뢰도 하락
문제는 이런 AI의 악용이 이제 시작이라는 것입니다. 지금 현재도 생성형 AI라고 부르는 chat GPT , 구글 바드 등이 계속 업데이트를 하며 개발 중에 있고 앞으로 더 고지능화가 될 것은 뻔한 일입니다.
이미 구글 내부에서는 2020년에 이런 생성형 AI의 가짜 컨텐츠 부작용을 우려한 관련 내부 보고가 있었던 적이 있습니다.
하지만 현실은 AI 기술을 필터링 할 수 있는 기술이 부족한 것도 있지만 , 구글을 포함한 대형 기업들이 오히려 AI 기술 개발을 촉진하고 있고 AI 부작용을 차단하는 데는 등한시 하고 있다는 사실입니다.
결국 AI로 인한 허위 정보 확산이 더 심화되고 있고 그로 인한 정보의 신뢰성도 하락하고 있는 상황입니다.
구글에서 10년 동안 근무했던 딥러닝의 대부로 불리는 제프리 힌튼 토론토 대학교 교수는 AI 기술 발전이 기후 문제보다 인류에게 더 시급한 위협이 될 수 있다고 언급하기도 했습니다.
인공지능 부작용 정리
AI 기술의 목표가 인류의 삶을 질을 높이는 것이 되어야 하는데 현재까지는 기업들의 돈벌이 수단으로만 활용이 되고 있어서 우려가 될 수 밖에는 없을 것 같습니다.
