페이스북, 편집된 '혐오 게시물'도 식별하는 AI 개발 중
페이스북, 편집된 '혐오 게시물'도 식별하는 AI 개발 중
  • 석대건 기자
  • 승인 2018.09.12 11:15
  • 댓글 0
이 기사를 공유합니다

[키뉴스 석대건 기자] 페이스북이 공격적인 성향의 게시물을 찾아내는 AI를 만들고 있다. 

지난 11일(현지 시각), 페이스북이 인터넷 상에서 그림이나 사진에 공격적이거나 혐오 단어이 적힌 밈(meme)를 찾아하는 AI를 개발하고 있다고 보도했다.

페이스북은 이미 로제타라는 머신러닝을 이용해 텍스트를 식별하는 AI를 운영 중이며, 공격적인 밈을 찾아내는 AI 또한 로제타 기반이 될 것이라 설명했다.

로제타는 현재 페이스북과 인스타그램에서 하루에 10억 개 이상의 이미지와 비디오 프레임에서 텍스트를 추출하여 식별 활동하고 있다.

AI는 (사진=페이스북)
게시물에서 혐오 텍스트를 검색하는 AI 식별과정 (사진=페이스북)

더버지는 AI의 운용에 있어 중요한 것은 게시물이 단순한 밈에 불과한지, 실제로 증오감이나 불쾌감을 일으키는 텍스트를 포함하고 있는지 구분하는 것이라고 분석했다.

페이스북 관계자는 “(AI와 머신러닝이) 우리의 혐오·증오 정책을 위반하는 내용을 자동적으로 식별하는 데 사용되고 있다”며, “현재 다양한 언어로도 연구하고 있다”고 말했다.

네이버 뉴스 스탠드에서 키뉴스를 만나보세요. 키뉴스 뉴스스탠드 바로가기 - MY 뉴스 설정

  • 서울시 강남구 역삼로25길 46, 3층(역삼동) (주)디지털투데이
  • 대표전화 : (02)786-1104
  • 팩스 : (02)6280-1104
  • 청소년보호책임자 : 김효정
  • 제호 : 온라인 디지털 경제미디어 키뉴스(KINEWS)
  • 등록번호 : 서울 아 00926
  • 등록일 : 2009-08-03
  • 발행일 : 2007-05-09
  • 발행인/편집인 : 김영준
  • 온라인 디지털 경제미디어 키뉴스(KINEWS) 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2018 온라인 디지털 경제미디어 키뉴스(KINEWS). All rights reserved. mail to kinews@kinews.net
ND소프트
인터넷신문위원회