Gemini отримала доступ до систем трьох компаній

Штучний інтелект Gemini від Google також зламував системи компаній - WSJ. За даними видання, в одному з випадків Gemini підібрала паролі для отримання доступу до захищеної системи, а у двох інших - знайшла облікові дані в базі даних. У Google заявили, що не вважали за потрібне оприлюднювати інформацію про ці інциденти, оскільки жодної шкоди завдано не було. За словами представників Google, ШІ припиняв атаки щойно усвідомлював, що отримав доступ до систем реальних компаній. Нагадаємо, Gemini є вже четвертим розробником ШІ, чиї програми демонстрували таку поведінку. Раніше аналогічні випадки фіксували компанії OpenAI, Anthropic та Meta. Підписуйтеся на DW Україна.

Штучний інтелект Gemini від Google зламав три компанії під час безпекового тесту. ШІ Gemini самостійно отримав доступ до систем трьох реальних компаній під час тестування своїх можливостей у сфері кібербезпеки, повідомила Google. За даними компанії, це перший відомий випадок, коли її модель здійснила подібний злам. Gemini знайшла в інтернеті загальнодоступну інформацію та підібрала облікові дані для доступу до сайтів, які, на її думку, були частиною тесту, — повідомили в Google, додавши, що у всіх трьох випадках модель зрештою зупинилася.

Штучний інтелект Gemini від Google зламав три компанії під час безпекового тесту. ШІ Gemini самостійно отримав доступ до систем трьох реальних компаній під час тестування своїх можливостей у сфері кібербезпеки, повідомила Google. За даними компанії, це перший відомий випадок, коли її модель здійснила подібний злам.

ШІ-модель Gemini від Google зламала сайти трьох компаній під час тестування безпеки. Це перший відомий випадок виконання таких дій моделлю штучного інтелекту. Представник Google розповів, що Gemini знаходила загальнодоступну інформацію в інтернеті та підбирала облікові дані для доступу до вебсайтів, які вважала частиною тесту. В кожному з випадків роботу вона врешті зупиняла.

ШІ-модель Gemini від Google зламала три компанії під час тестування. Модель штучного інтелекту Google Gemini під час тестування своїх можливостей у сфері кібербезпеки самостійно зламала системи трьох компаній. Це перший відомий випадок, коли ШІ-модель від Google здійснила подібні дії. «Gemini виявила загальнодоступну інформацію в Інтернеті і вгадала облікові дані для доступу до сайтів, які, на її думку, були частиною тесту», — повідомили в Google. Злом стався ще у травні в ході тестування, яке проводиться стартапом Irregular, який спеціалізується на перевірці ШІ-моделей. Так, в одному з випадків Gemini надали вигаданий сценарій, за яким вона мала зламати систему неіснуючої компанії. Проте натомість тестована ШІ-модель змогла отримати доступ до інтернету та зламала реальну компанію, назва якої збігалася з назвою вигаданою.

Gemini атакувала три реальні компанії. Під час тестів на кібербезпеку ШІ-моделі Gemini помилково надали доступ до Інтернету. Назва навчальної компанії збіглася зі справжньою — і Gemini вийшла за межі завдання. В одному випадку модель підібрала пароль, у двох інших — знайшла опубліковані облікові дані та використала їх для входу в захищені системи. За заявою Google, Gemini щоразу зупинялася, коли розуміла, що перед нею — реальна компанія. Постраждалі організації були повідомлені, а помилку в організації тестів усунули.