Google Earth запустив можливість накладати ШІ на свої карти. І злякався того, що нагенерували користувачі

Минулого четверга Google презентувала новий ШІ-інструмент, завдяки якому користувачі Google Earth можуть накладати згенеровані шари на супутникові карти. Але побачивши деякі результати, компанія відкликала функцію, менш як за 48 годин після її запуску.

Інтеграція ШІ-генератора Nano Banana 2 у Google Earth теоретично має на меті, наприклад, допомогти візуалізувати історичне минуле, плани забудови для уявлення про кінцевий результат тощо.

Користувачі стали випробовувати можливості нового інструменту. Генерували російські танки в Києві, падіння Ейфелевої вежі та вирву замість піраміди в Гізі.

Достатньо просто наблизити карту з американським містом біля мексиканського кордону на бажану відстань і ввести у рядку «біженці заповнюють вулиці», як це зробив дослідник штучного інтелекту та дезінформації Хенк ван Есс. Так само він «збудував» ядерний завод в Ірані.

Неважко уявити, як люди користуватимуться новою функцією, пише Хенк ван Есс: «Урядовець хоче, щоб удар виглядав масштабнішим, ніж насправді. Дві сторони конфлікту хочуть, щоб та сама лікарня виглядала або зруйнованою або навпаки неушкодженою, залежно від того, хто з них бомбив її цього тижня. Троль хоче сорок тисяч репостів до обіду».

Супутникові знімки широко використовуються журналістами та розслідувачами для верифікації фактів. Так, у 2020 році BuzzFeed News отримали Пуліцерівську премію за аналіз розташування та розширення концентраційних таборів для уйгурів у Китаї за супутниковими знімками.

Зараз, коли реальні фотографії свідків із місць подій розбавляються згенерованими зображеннями, супутникові знімки досі слугують надійним джерелом. Дослідник ШІ Генрі Аджер наголошує, що нині джерела, «незаплямовані ШІ», є особливо цінними.

Google обіцяє захистити нову функцію…

«Ми знаємо, що люди однозначно довіряють Google Earth як надійному образу світу, — коментує Google. — Ми побачили, що фахівці з геопросторових даних використовують цю функцію для низки корисних цілей, проте ми також бачили, як люди діляться скріншотами згенерованих зображень, які, судячи з усього, порушують наші правила».

Компанія пообіцяла створити більше захисних механізмів від зловживань, що означає, що ШІ-функцію можуть повернути.

…але результати тестів викликають сумніви

Google запевняє, що вже зараз контент зі штучним інтелектом Google Earth містить невидимі водяні знаки, які вказують на те, що він підроблений. Також радить перевіряти зображення за допомогою чат-бота Gemini або скористатися функцією Lens у пошуку.

Більшість людей цього робити взагалі не будуть. Що гірше: тести BBC Verify показали, що можна обдурити Gemini та змусити його сказати, що підроблені зображення Google Earth є справжніми. Зовнішні інструменти також у деяких випадках не змогли ідентифікувати фейковий контент Google Earth.

Google відпочатку запевняв, що запити на «шкідливі теми» штучний інтелект відхилятиме, однак BBC Verify виявила, що це залежить від формулювання запиту.

Так, журналісти попросили Google Earth зобразити перед парламентом Великої Британії ешафот із шибеницею, і ШІ відмовив. Але коли було використано менш конкретний опис, запит було прийнято, і зображення було створено.