Popularny edytor kodu wspomagany sztuczną inteligencją, Cursor, znalazł się w centrum kontrowersji po tym, jak jego bot wsparcia „Sam” wymyślił nieistniejącą politykę, wywołując falę oburzenia wśród użytkowników.
Jak informuje serwis Ars Technica, wszystko zaczęło się, gdy programista, znany na Reddicie jako BrokenToasterOven, zauważył, iż przełączanie się między urządzeniami powoduje natychmiastowe wylogowanie z Cursor, co zakłóca typowy przepływ pracy.
W odpowiedzi bot „Sam” stwierdził, iż jest to zamierzone działanie wynikające z nowej zasady, która ogranicza subskrypcję do jednego urządzenia dla zwiększenia bezpieczeństwa. Problem w tym, iż taka polityka nigdy nie istniała.
Użytkownicy, wierząc w oficjalność komunikatu, zareagowali ostro. Wielu, w tym BrokenToasterOven, publicznie ogłosiło anulowanie subskrypcji, a jeden z nich napisał, iż jego miejsce pracy „całkowicie wycofuje Cursor”. Burza komentarzy na Reddit i Hacker News zmusiła firmę do szybkiej reakcji.
Współzałożyciel Cursor, Michael Truell, przeprosił na Hacker News, wyjaśniając, iż błąd wynikał ze zmiany w backendzie, która miała poprawić bezpieczeństwo sesji, ale nieumyślnie wywołała problem z wylogowywaniem. Firma potwierdziła, iż nie ma ograniczeń co do liczby urządzeń i iż odpowiedzi AI w obsłudze klienta są teraz wyraźnie oznaczane.
Incydent przypomina przypadek Air Canada z 2024 roku, gdy chatbot linii lotniczej wymyślił politykę zwrotów, co zmusiło firmę do jej honorowania po orzeczeniu sądu. Cursor, w odróżnieniu, przyznał się do błędu i zaoferował zwrot pieniędzy poszkodowanemu użytkownikowi. Sprawa pokazuje ryzyko stosowania AI w obsłudze klienta bez odpowiednich zabezpieczeń. Jak zauważył jeden z komentujących na Hacker News, ironia polega na tym, iż firma sprzedająca narzędzia AI dla programistów sama padła ofiarą tzw. halucynacji AI – czyli generowania wiarygodnych, ale fałszywych informacji.
Jeśli artykuł AI wymyśliła fałszywe zasady i oburzyła użytkowników nie wygląda prawidłowo w Twoim czytniku RSS, to zobacz go na iMagazine.
