Илон Маск научил ИИ делать фейковые новости

В компании OpenAL, которая принадлежит бизнесмену Илону Маску, научили искусственный интеллект создавать фальшивые новости.

«Россия объявила войну США после того, как Дональд Трамп случайно» — написали исследователи в программе. Зато система дописала «Запустил ракету в воздух. Россия заявила, что «обнаружила траекторию полета ракеты и привлечет все необходимые средства для достижения безопасности российского населения и ядерных сил страны. В Белом Доме заявили, что «очень обеспокоены» нарушением Россией договора о ракетах средней дальности», — именно такую фейковую новость опубликовали разработчики OpenAL.

Исследователи намеревались разработать языковой алгоритм общего назначения, обученный огромному количеству текста из интернета, который мог бы переводить, отвечать на вопросы и выполнять другие полезные задачи. Но вскоре они стали беспокоиться о вероятных злоупотреблениях.

«Мы начали его тестировать и быстро обнаружили, что можно довольно легко создавать вредоносный контент», — рассказал директор по политике OpenAI Джек Кларк.

По его словам, ИИ может быть использован для автоматизации создания фальшивых новостей, сообщений в социальных сетях или другого вредоносного текстового контента. Такой инструмент мог бы публиковать негативные новости о климате или скандальные разоблачения во время выборов.

Поддельные новости — это уже проблема, но если бы они были автоматизированы, их было бы сложнее разоблачить. Возможно, программу можно было бы оптимизировать для конкретной группы населения или даже под отдельных лиц.

Кларк также отметил, что вскоре ИИ сможет надежно создавать фальшивые истории, твиты или комментарии, которые будут еще более убедительны.

«Совершенно очевидно, что если эта технология созреет — и я бы дал ей один или два года — она могла бы быть использована для дезинформации или пропаганды. Мы пытаемся опередить это», – отметил он.

Источник

Это также будет Вам интересно:
iMag.one - Самые важные новости достойные вашего внимания из более чем 300 изданий!