[05/16] 헤이트 스피치 대응을 위한 페이스북의 AI 도입 효과 미흡

페이스북이 발간한 연례 투명성 보고서에 의하면 페이스북의 알고리즘이 이용자의 신고 이전에 헤이트 스피치 포스트를 찾아낸 사례가 적은 것으로 나타났음

  • 보고서는 시각적 폭력, 성/누드 콘텐츠, 테러 선전물, 헤이트스피치, 스팸, 가짜 정보의 6가지의 정보를 페이스북의 알고리즘이 얼마나 잘 구분해 냈는지를 밝히고 있음
  • 폭력 콘텐츠(86%), 성/누드 콘텐츠(96%), 스팸, 테러 선전물, 가짜정보(거의 100%) 포스트는 알고리즘이 사전에 잡아낼 수 있었으나, 헤이트 스피치(36%)는 6개의 정보 분류중 최하위를 기록
  • 저커버그가 미 의회에서 AI를 통해 페이스북 포스트의 문제(헤이트 스피치, 가짜정보 등)를 해결할 것이라 밝혔고, 5년 이내에 정착할 것이라 관측하지만
  • 이 보고서의 수치들은 저커버그의 AI의 정책을 계속하여 주시할 필요가 있음을 의미함
  • 본 보고서는 매년 발간 예정

[출처 : The nextweb , Facebook Transparency]