일체 포함

지원 대상

두 가지 새로운 보고서의 결과는 인공 지능이 온라인에서 잘못된 정보 환경을 어떻게 변화시킬 수 있는지에 대한 새로운 우려를 불러일으킵니다.

스튜어트 A. 톰슨

금요일에 발표된 두 가지 보고서에 따르면 수십 개의 비주류 뉴스 웹사이트, 콘텐츠 팜 및 가짜 리뷰어가 인공 지능을 사용하여 온라인에서 가짜 콘텐츠를 만들고 있다고 합니다.

보고서에 따르면 오해의 소지가 있는 AI 콘텐츠에는 조작된 사건, 의학적 조언, 유명인의 죽음에 관한 사기 등이 포함되어 있으며, 이 혁신적인 기술이 온라인에서 잘못된 정보 환경을 빠르게 재편할 수 있다는 새로운 우려가 제기되고 있습니다.

두 보고서는 온라인 잘못된 정보를 추적하는 회사인 NewsGuard와 디지털 조사를 위한 리소스와 교육을 제공하는 회사인 ShadowDragon이 별도로 발표했습니다.

NewsGuard의 CEO인 Steven Brill은 성명에서 “일반적으로 신뢰할 수 있는 출처와 일반적으로 신뢰할 수 없는 출처를 구별하는 것이 얼마나 어려워졌기 때문에 뉴스 소비자들은 뉴스 출처를 점점 더 신뢰하지 않게 되었습니다.”라고 말했습니다. "AI가 만든 이 새로운 사이트의 물결은 소비자가 누가 뉴스를 제공하는지 알기 어렵게 만들어 신뢰를 더욱 떨어뜨릴 것입니다."

NewsGuard는 뉴스부터 라이프스타일 보도에 이르기까지 10개 언어로 게시되고 콘텐츠 전체 또는 대부분이 AI 도구로 작성된 125개의 웹사이트를 식별했습니다.

이 사이트에는 NewsGuard가 의료 조언을 제공하는 50개 이상의 AI 생성 기사를 게시했다고 말한 건강 정보 포털이 포함되어 있습니다.

말기 양극성 장애 식별에 관한 사이트의 기사에서 첫 번째 단락은 다음과 같습니다. “언어 모델 AI로서 나는 최신 의료 정보에 접근하거나 진단을 제공할 능력이 없습니다. 게다가 '말기 양극성 장애'는 의학 용어로 인정되지 않습니다.” 이 기사에서는 양극성 장애의 네 가지 분류를 설명했는데, 이를 "네 가지 주요 단계"라고 잘못 설명했습니다.

웹사이트에는 광고가 난무하는 경우가 많았는데, 이는 종종 알려지지 않은 웹사이트 소유자의 클릭을 유도하고 광고 수익을 늘리기 위해 허위 콘텐츠가 제작되었음을 암시한다고 NewsGuard는 말했습니다.

이번 조사 결과에는 NewsGuard가 이달 초 식별한 AI 콘텐츠를 사용하는 웹사이트 49개가 포함되어 있습니다.

ShadowDragon은 Instagram을 포함한 주요 웹사이트와 소셜 미디어, Amazon 리뷰에서도 허위 콘텐츠를 발견했습니다.

"예, AI 언어 모델로서 Active Gear Waste Trimmer에 대해 확실히 긍정적인 제품 리뷰를 작성할 수 있습니다."라고 Amazon에 게시된 별 5개 리뷰가 읽었습니다.

연구원들은 또한 ChatGPT를 사용하여 일부 리뷰를 재현할 수 있었고, 봇이 종종 "뛰어난 기능"을 지적하고 제품을 "강력히 추천"할 것이라는 결론을 내리는 것을 발견했습니다.

회사는 또한 이미지와 비디오 아래에 설명을 작성하기 위해 ChatGPT 또는 기타 AI 도구를 사용하는 것으로 보이는 여러 인스타그램 계정을 지적했습니다.

사례를 찾기 위해 연구자들은 AI 도구에서 자주 생성되는 명백한 오류 메시지와 미리 준비된 답변을 찾았습니다. 일부 웹사이트에는 요청한 콘텐츠에 잘못된 정보가 포함되어 있거나 해로운 고정관념을 조장한다는 AI 작성 경고가 포함되어 있습니다.

“AI 언어 모델로서 나는 편파적이거나 정치적인 콘텐츠를 제공할 수 없습니다.” 우크라이나 전쟁에 관한 기사에서 한 메시지를 읽었습니다.

ShadowDragon은 LinkedIn, Twitter 게시물 및 극우 메시지 게시판에서 유사한 메시지를 발견했습니다. 트위터 게시물 중 일부는 메시지가 표시되면 트윗 응답을 생성하는 계정인 ReplyGPT와 같은 알려진 봇에 의해 게시되었습니다. 그러나 다른 사람들은 일반 사용자로부터 오는 것으로 나타났습니다.

Stuart A. Thompson은 온라인 정보 흐름을 다루는 기술 부서의 기자입니다. 스튜어트 A. 톰슨에 대해 더 알아보기

블로그