Microsoft: modele AI trzeba brać za niebezpieczne. CEO chce zmian

Szef Microsoftu twierdzi, że nie robimy dostatecznie dużo w kwestii dbania o bezpieczeństwo modeli sztucznej inteligencji. Satya Nadella w najnowszym wpisie na mediach społecznościowych mówi wprost - nie możemy ufać, że AI działa w dobrej wierze.Nie można ufać intencjom i transparentności sztucznej inteligencjiSatya Nadella opublikował niedawno długi wpis na platformie X (dawniej Twitter), w którym mierzy się z problemami tzw. modeli frontier oraz open-weight. Jest on zdania, że musimy je traktować jako korporacyjnych "insiderów", którzy mogą naruszyć wrażliwe dane ze względu na to, że mają dostęp do kluczowych systemów firmowych.Szef Microsoftu sam używa agentów AI w wielu aspektach swojej pracy (np. przy analizach progów rentowności i zwrotu inwestycji), jednak zauważa pewne zagrożenia z tym związane. Jak podkreśla w swoim wpisie na X, praca agentów AI nie jest deterministyczna (czyli promptując dwa razy o to samo - możemy uzyskać inne rezultaty), a mimo tego mają dostęp do najbardziej wrażliwych danych i mogą wykonywać czynności o krytycznym znaczeniu dla korporacji.