Turystyczne AI podało przepis na wybuchową mieszankę. Chatbot ośmieszony w parę chwil

Zdjęcie: Smartfon z ikonami aplikacji ChatGPT, Gemini, Character.ai, Copilot, Bing oraz Grammarly, leżący na klawiaturze laptopa. Polacy chcą AI w smartfonach.


AI jailbreaking staje się coraz poważniejszym problemem. Określenie to dotyczy manipulowania chatbotami do omijania zabezpieczeń – w ten sposób asystent bazujący na modelu ChatGPT w popularnym serwisie turystycznym udzielił użytkownikowi szczegółowych instrukcji, jak zrobić koktajl Mołotowa. Chatbot Expedia uczy,...