OpenAI отказывается от обнародования модели ИИ, с помощью которой можно создавать убедительные фейковые новости

Научно-исследовательский институт OpenAI, во главе которого стоит Илон Маск, отказываюется от релиза программного обеспечения, в основе которого лежит искусственный интеллект, с помощью которого можно анализировать более чем 8 миллионов интернет-страниц для создания качественного контента.

OpenAI не откроет доступ к ПО, которое генерирует фейковые новости

Причина в отказе обнародования данного ПО заключается в ее способности создавать убедительные фейковые новости. Представители OpenAI опасаются, что технология может заинтересовать злоумышленников, они могут начать использовать ее в своих корыстных целях.

Возможность создания фейковых новостей с помощью ИИ

Изначально в OpenAI разрабатывали языковой ИИ общего назначения, с помощью которого совершались бы качественные переводы текстов и создание нового материала. В процессе разработки, однако, выяснилось, что алгоритм можно применять для автоматизации фековых новостей. В целях безопасности команда OpenAI приняла решение не публиковать ПО в открытом доступе.

We've trained an unsupervised language model that can generate coherent paragraphs and perform rudimentary reading comprehension, machine translation, question answering, and summarization — all without task-specific training: https://t.co/sY30aQM7hU pic.twitter.com/360bGgoea3

— OpenAI (@OpenAI) February 14, 2019

Представители OpenAI отмечают, что у разработки остается несколько проблем, в частности плагиат и поверхностность. Джек Кларк, директор по политике OpenAI, предполагает, что в течение следующих двух лет система, которая будет постоянно выдавать фейковые новости, все же появится, поэтому потребуется эффективная разработка для проверки фактов, опровержения лживых данных.

OpenAI сосредоточится на борьбе с системами, генерирующими фейковую информацию

Так, команда OpenAI намерена сфокусироваться на «опережении» систем, генерирующих фейковые новости. Отмечается, что правительства, а также компании могут использовать такие инструменты для распространения фейковых сообщений на мировом уровне. Если в настоящее время с этой проблемой социальные сети пытаются справиться «вручную», то с автоматизацией процесса нужно будет бороться более эффективными инструментами.