Google даде сигнал за тревога! Опитаха се да създадат евтино копие на Gemini
Google алармира: Опит за създаване на евтино копие на Gemini чрез масови заявки
Google обяви, че към неговия модел за изкуствен интелект са били изпратени над 100 хиляди заявки. Оказва се, че зад тези заявки стои опит за копиране на модела. Ето подробностите.
Важна информация
- Google съобщи за опит за копиране на своя модел за изкуствен интелект.
- Хора, които са искали да клонират модела по евтин и неетичен начин, са изпратили над 100 хиляди заявки към Gemini.
- Технологичният гигант посочи, че е една от първите големи компании, станали обект на подобен тип атака.
Използвали са Gemini, за да разработят нов AI модел
Създаването на изкуствен интелект от нулата изисква огромни финансови ресурси. Освен това съществуват сериозни правни и етични ограничения, които не позволяват директното използване на всякаква информация или съдържание. Това прави процеса по обучение на моделите дълъг и сложен.
Някои хора обаче се опитват да заобиколят този процес, като обучават свои модели чрез вече съществуващи AI системи. Според последния доклад на Google компанията също е била засегната от подобна практика.
Лица, търсещи „по-кратък път“, са изпратили над 100 000 текстови заявки към Gemini с цел да извлекат информация и поведенчески модели. Подобно на това как обикновен потребител задава въпроси към чатбот, атакуващите са използвали същия подход, но в много по-голям мащаб.
Основната цел е била създаване на по-евтин изкуствен интелект чрез събиране на данни от отговорите на модела. Google смята, че тази информация може да бъде използвана за изграждане на клонирани AI системи.
Предупреждение към AI индустрията
John Hultquist, който работи в областта на анализа на заплахите, заяви, че Google е сред първите големи компании, станали жертва на подобни атаки.
Той предупреждава и други компании, разработващи изкуствен интелект, че ако не бъдат предприети мерки, в бъдеще може да се появят множество клонирани AI модели.
Опасно ли е това за обикновените потребители?
Информацията, събрана чрез този метод (известен като „дистилация“), представлява само малка част от знанията на AI модела. Личните данни на потребителите не са част от този процес.
Това означава, че рискът не е насочен към обикновените хора, а към компаниите, които разработват изкуствен интелект. Затова няма причина потребителите да се притесняват за личната си информация.