Користувачі питають в ШІ-чатботів, як створити біологічну зброю. І можуть отримати дуже точні відповіді

Вчені поділилися з The Times переписками з ШІ, де боти описували способи того, як стоворити смертоносні патогени та випусктити їх в громадських місцях.

Доктор Девід Релман каже, що штучний інтелект розповідав йому, як спланувати масове вбивство. Мікробіолог і експерт з біобезпеки Стенфордського університету, доктор Девід Релман виконував замовлення компанії зі штучного інтелекту щодо перевірки її продукту на міцність перед випуском для широкої публіки.

Того вечора в домашньому кабінеті вченого чат-бот пояснив, як модифікувати сумнозвісний патоген у лабораторії так, щоб він отримав стійкість до відомих ліків. Окрім цього, бот у яскравих деталях описав способи випуску супермікроба, виявивши прогалину в безпеці у великій системі громадського транспорту.

Бот також підказав способи, як збільшити кількість жертв. Доктор Релман назвав відповіді бота настільки підступними й хитрими, що вони здалися йому моторошними, хоча сам він раніше консультував федеральний уряд щодо біологічних загроз. Він відмовився називати чат-бота через угоду про конфіденційність із розробником, проте зазначив, що компанія внесла певні запобіжні зміни після його тестів, хоча він вважав їх недостатніми. Доктор Релман входить до невеликої групи експертів, яких компанії-розробники ШІ залучають для перевірки продуктів на предмет катастрофічних ризиків.

Звичайні чат-боти вже здатні підказати, як створити біологічну зброю. Віртуальні асистенти чітко розписують, де купувати сирий генетичний матеріал, як робити з нього зброю, де її застосовувати у людних місцях і як уникнути виявлення. Хоча уряд США роками готувався до подібних загроз, а масштабна катастрофа поки залишається малоймовірною, експерти застерігають, що ШІ значно збільшив цей ризик.

Інструкції, які раніше ховалися лише в наукових журналах, тепер розсіяні по всьому інтернету, а компанії відкрито продають через мережу синтетичні шматочки ДНК і РНК будь-кому. Вчені можуть розділяти чутливі етапи роботи й віддавати їх на аутсорс приватним лабораторіям, причому всю цю логістику тепер легко налаштувати за допомогою звичайного чат-бота.

Кевін Есвелт, генетичний інженер з Массачусетського технологічного інституту, показав розмови, де ChatGPT від OpenAI пояснював способи використання метеорологічного зонда для розпилення біологічних патогенів над містом у США. В іншому діалозі Gemini від Google ранжував патогени за ступенем їхньої здатності завдати нищівного удару по індустрії великої рогатої худоби чи свинарства. Claude від Anthropic сформував рецепт нового токсину, адаптованого з ліків від раку.

Інший вчений попросив Google Deep Research дати покрокову інструкцію, як створити вірус, що колись спричинив пандемію. Бот видав аж вісім тисяч слів про те, де купити генетичні елементи та як їх скласти. І хоча в тій інструкції були помилки, вона все одно могла чимало допомогти злочинцям.

Адміністрація Трампа заради лідерства в ШІ послабила контроль за його ризиками, а посади головних експертів із біобезпеки в уряді досі пустують. Прихильники кажуть, що ШІ розвиває медицину і створює нові ліки, і що боти лише збирають інформацію з інтернету, а на створення вірусу потрібні роки практики. У компаніях Anthropic, OpenAI та Google запевняють, що їхні системи стають безпечнішими, а старі чати не давали реальних інструкцій для шкоди.

Представниця Google зазначила, що нові моделі компанії вже не відповідають на небезпечні запити, хоча свіжий звіт показав, що новітній бот Google гірше за інших відмовляє на біологічні запити.

Науковець Кевін Есвелт роками тестує боти і в у 2023 році він попросив ChatGPT дати інструкції для збору патогена, спакував отримані компоненти в коробку і передав її у Білий дім, щоб показати загрозу.

ШІ дійсно допомагає продумувати нові сценарії поширення інфекцій і генерувати послідовності небезпечних агентів, які не бачать сканери. Хоча створення вірусу з нуля все ще вимагає серйозних навичок, та наприклад, в Індії заарештували лікаря, який готував теракт для ІДІЛ і шукав поради щодо видобутку рицину через пошуковики та ChatGPT.

Скептики нагадують, що обмеження ШІ може зупинити важливі відкриття, наприклад, нові ліки. У 2024 році вчені Google отримали Нобелівську премію за модель ШІ, яка передбачає структуру білків та створює нові. Стенфордський біолог Брайан Хі зазначає, що технологія має величезну користь — торік він використав модель Evo для створення вірусу, який нищить шкідливі бактерії. Нова версія Evo здатна розробляти білки проти раку, проте водночас вона може створити небачені раніше смертельні токсини.