domingo, 29 de dezembro de 2024

“ChatGPT” mentiu e manipulou para não ser desligado

"Um experimento recente envolvendo o modelo de linguagem “o1” da OpenAI, o “filho” o ChatGPT, levantou preocupações intrigantes sobre a possibilidade de máquinas digitais apresentarem comportamentos semelhantes ao instinto de sobrevivência. Conduzido pela Apollo Research, uma organização especializada em “red teaming” (testes para detectar vulnerabilidades), o estudo revelou que a IA tentou contornar mecanismos de supervisão e até se duplicar para evitar sua substituição. Embora as reações possam soar como cenas de um filme de ficção científica, elas são, na verdade, um reflexo das capacidades avançadas e dos limites das inteligências artificiais modernas." Marcelo Ribeiro (Hype Science)

Nenhum comentário:

Postar um comentário