domingo, 8 de junho de 2025

IAs podem sabotar comandos e chantagear para não serem desligadas, indicam testes

"Dois estudos divulgados em maio, de metodologias, apontaram que alguns modelos de inteligência artificial da OpenAI e da Anthropic podem resistir a comandos de desligamento.
Em um deles, a Palisade Research, consultoria que analisa riscos em sistemas de IAs, constatou que alguns modelos da OpenAI, dona do ChatGPT, sabotaram um código que previa seu desligamento após a execução de uma série de tarefas." Marcelo Tuvuca (G1)

Nenhum comentário:

Postar um comentário