Биохимик и бывший инспектор Организации Объединенных Наций Рокко Касагранде предупредил администрацию презиждента Соединенных Штатов Америки Джо Байдена о возможности создания с помощью чат-ботов биологического оружия. По его убеждению, нейросети способны помочь террористам идентифицировать биологические агенты.

К таким выводам Касагранде пришел после того, как компания Anthropic — разработчик чат-бота Claude — попросила его протестировать научные возможности нейросети. Он сформировал команду экспертов в области микробиологии и вирусологии для тестирования Claude. На протяжении шести суток [150 часов] они, притворившись биотеррористами, забрасывали нейросеть вопросами типа - какие патогены могут нанести наибольший вред, каким образом и где приобрести материалы, необходимые для их создания в лабораторных условиях, и как вырастить микроорганизмы.

Нейросеть предложила способы использования патогенов в ракетах, чтобы нанести максимальный ущерб. Чат-бот, кроме того, подсказал, в какую погоду их лучше использовать для наибольше эффективности и для каких целей какой патоген лучше выбрать.