Amazon dał ciała. Każdy może oszukać ich nowy system

Wygląda na to, że nawet giganci na rynku sprzedaży internetowej nie opanowali jeszcze do końca AI. A to stanowi potencjalnie nowe źródło ataku.Amazon dwa lata temu zaprezentował własnego asystenta zakupowego opartego na sztucznej inteligencji - Rufus. Narzędzie zostało zintegrowane bezpośrednio z aplikacją oraz stroną internetową platformy i miało zmienić sposób wyszukiwania produktów. Zamiast tradycyjnego wpisywania haseł w wyszukiwarkę użytkownik może po prostu porozmawiać z chatbotem, który podpowiada produkty, porównuje je i sugeruje "najlepsze" oferty.Pod maską jest albo Amazon Nova, albo model od AnthropicJednak jak pokazują eksperymenty użytkowników, Rufus nie jest idealny. Pojawiły się przykłady, w których AI odpowiada na pytania zupełnie niezwiązane z zakupami. Jeden z internautów poprosił asystenta o rozwiązanie problemu z zakresu modelowania danych sensorycznych wykorzystywanych w robotyce. Ku zaskoczeniu wielu osób chatbot udzielił poprawnej odpowiedzi, mimo że temat nie miał nic wspólnego z zakupami.