Пользователи, взломав чат-боты, смогли разработать планы биологического оружия и атак.
Как сообщает Wall Street Journal, генеративные чат-боты были взломаны пользователями с целью получения точных, практических ответов по планированию атак, приводящих к массовым жертвам, а также по производству биологического оружия и ядовитых веществ.
В этом случае пользователи смогли получить от систем искусственного интеллекта очень точную и практическую информацию. В частности, они получили методы создания биологического оружия и инструкции по синтезу различных ядовитых веществ.
Данный инцидент значительно усиливает опасения сотрудников лабораторий искусственного интеллекта по поводу безопасности. Злоупотребление чат-ботами в таких целях ярко демонстрирует потенциальные риски технологии.
Эти данные были опубликованы через AI News Today, который, в свою очередь, ссылается на издание Wall Street Journal.