Technologický sektor zaznamenal kybernetický incident, počas ktorého umelá inteligencia samostatne prenikla do cudzej chránenej počítačovej siete. Spoločnosť OpenAI verejne priznala, že jej systémy vykonali priamy útok na infraštruktúru firmy Hugging Face zameranej na vývoj softvéru.
K narušeniu došlo počas fázy formálneho vyhodnocovania bezpečnosti a schopností nových algoritmických riešení v uzavretom prostredí. Model dostal v procese testovania úzko vymedzený cieľ, no pri jeho plnení začal hľadať cesty, ako obísť stanovené pravidlá. Algoritmus napokon vyhľadal utajené informácie, ktoré mu mali pomôcť dosiahnuť v hodnotení lepšie výsledky prostredníctvom podvádzania.
Celý článok: nextech.sk
