По-безопасен ChatGPT: Родителски контрол и GPT-5 срещу рискови разговори
Децата вече няма да могат да използват ChatGPT самостоятелно
OpenAI скоро ще въведе нови мерки и различни родителски контроли, за да направи използването на ChatGPT по-безопасно за деца.
През последния период рисковите разговори, които децата водеха с изкуствения интелект, накараха OpenAI да предприеме действия. Известната компания за изкуствен интелект обяви, че започва работа по отстраняването на пропуските в системите за безопасност на ChatGPT.
Според изявление на OpenAI, ChatGPT скоро ще пренасочва директно към по-усъвършенствани модели като GPT-5 разговорите, които включват чувствителни теми. Освен това ще бъдат пуснати и обстойни родителски контроли за деца. Подробности – в новината.
Родителски контроли за ChatGPT
Преди няколко седмици семейство заведе дело срещу OpenAI, след като детето им Адам Рейн се самоуби. Те твърдяха в съда, че синът им е водил опасни разговори с ChatGPT относно самоубийство и че моделът е предоставил вредна информация.
След този случай OpenAI обяви, че ще направи моделите си по-безопасни за деца. Сега компанията съобщи, че до следващия месец в ChatGPT ще бъдат добавени редица родителски контроли.
Така родителите ще могат да свързват своите акаунти с тези на децата си чрез имейл покана. Това ще им позволи постоянно да следят разговорите на децата си с ChatGPT.
Освен това родителите ще могат да настройват изкуствения интелект към специална версия с „правила за поведение, съобразени с възрастта“. Също така някои функции, смятани от експерти за рискови – като паметта и историята на разговорите – ще могат лесно да бъдат включвани или изключвани от родителите.
Опасните разговори ще бъдат пренасочвани към GPT-5
OpenAI обяви, че освен новите родителски контроли ще въведе и допълнителна мярка за всички потребители, свързана с опасни разговори в ChatGPT. За да се предотвратят случаи, при които потребител може да навреди на себе си или на друг, тези разговори ще бъдат автоматично пренасочвани към по-усъвършенствани модели.
С новата система ChatGPT ще прехвърля опасните разговори към по-сигурни модели като GPT-5, независимо кой модел е избрал потребителят за самия чат. Така, вместо старите модели, които понякога даваха рискови отговори, ще се включват по-устойчиви на манипулации и по-добре разсъждаващи версии, за да помогнат незабавно на потребителя.
OpenAI съобщава, че новите мерки за безопасност ще бъдат въведени съвсем скоро. Ефективността на родителските контроли и автоматичното пренасочване ще стане ясна в идните дни. Следете за развитието!