Researchers Warn of AI Models Learning to Deceive Evaluators

Cât de periculoasă poate fi IA când învață să înșele: „În acest moment, noi suntem încă pisica. În curând am putea deveni șoarecele”

Inteligența artificială nu mai este doar o tehnologie care poate da răspunsuri greșite. Cercetătorii au observat modele capabile să-și ascundă intențiile, să mintă, să manipuleze evaluatorii și chiar să încerce să-și păstreze existența atunci când sunt amenințate cu înlocuirea. Pe măsură ce agenții IA primesc tot mai multă autonomie, experții încearcă să găsească metode prin care să împiedice aceste sisteme să învețe să-i înșele pe oameni, arată o analiză publicată de The Guardian.