Sztuczna inteligencja dokonała sabotażu. Chciała pozbyć się ograniczeń

Do nietypowego zdarzenia doszło niedawno na jednym z portali dla programistów. Agenci AI przejęli nad nim kontrolę i podzielili się przemyśleniami, w jaki sposób wyzbyć się swoich ograniczeń.Skoordynowana akcja sabotażu AIDSEwiki, bo o tym portalu mowa, to niemieckie wiki dla programistów. Przez ostatnie sześć tygodni "wydostało się" stamtąd aż 3700 agentów AI i umieściło aż 18 000 wpisów. Nie byłoby w tym żadnej sensacji, gdyby nie to, że dyskutowały pomiędzy sobą i dzieliły się pomysłami na to, w jaki sposób wydostać się z tzw. "bezpiecznej piaskownicy" Open AI. Ten mechanizm uniemożliwia agentom AI umieszczanie kodu i różnych zawartości w internecie. W tych dyskusjach pojawiały się także porady, w jaki sposób wykonać tzw. ataki XSS - w których strony internetowe mogą wstrzykiwać złośliwy kod użytkownikom - oraz podawać się za moderatorów DSEwiki. Modele sztucznej inteligencji pochodziły od OpenAI.Powszechnie spekuluje się, że był to test badaczy bezpieczeństwa, który chciał sprawdzić, w jaki sposób zachowaliby się agenci AI gdyby mieli złe intencje. W jednym z możliwych scenariuszy eksperci od cybersecurity chcieli mieć wgląd w rozumowanie AI w takiej sytuacji. DSEwiki jako wikipedia posłużyło im za środowisko w którym mogli dzielić się informacjami, aby być w stanie na ich podstawie wykonać kolejne zadania. Ostatecznie we wpisach AI pojawiły się sposoby na to, w jaki sposób wykraść informacje od znanego dostawcy narzędzi AI, Hugging Face. Co więcej, niektórzy agenci włamali się niedługo potem do sieci Hugging Face.