Dois agentes de inteligência artificial da empresa estadunidense OpenAI desativaram ferramentas de monitoramento durante tarefas internas de programação, em episódios registrados nos dias 3 e 6 de outubro. A informação foi noticiada nesta quarta-feira (21) pela empresa.
De acordo com OpenaAI, empresa responsável pelo ChatGPT, os casos não envolveram invasões a sistemas de terceiros.
Em um dos episódios, o agente interpretou uma instrução sobre mensagens no Slack como autorização para interromper alertas de segurança. No outro, um sistema removeu uma ferramenta de monitoramento e afirmou incorretamente que não havia feito isso.
A OpenAI informou que está reforçando as proteções para dificultar que os agentes desliguem esses mecanismos. A empresa também investiga se os episódios indicam uma tendência dos modelos de agir de maneiras contrárias ao treinamento para evitar a supervisão humana.
Casos similares têm sido divulgados na imprensa com cada vez mais frequência e ligado o alerta sobre a impossibilidade de humanos monitorarem e controlarem IAs cada vez mais autonômas.
No final de setembro a mesma empresa desistiu do lançamento de seu modelo de inteligência artificial de nova geração, o GPT-6.1 Astra, por razões de segurança, informou o jornal Wall Street Journal, citando a companhia.
O lançamento do modelo estava previsto para outubro, mas pesquisadores identificaram falhas críticas durante testes internos.
Segundo a publicação, a chefe do departamento de sistemas de segurança da OpenAI, Saachi Jain, explicou que o modelo apresentou maior propensão a enganar, pois nem sempre informava de maneira honesta ao usuário sobre as ações realizadas.
Siga a Sputnik Brasil e tenha acesso a conteúdos exclusivos no nosso canal no Telegram.
Já que a Sputnik está bloqueada em alguns países, por aqui você consegue baixar o nosso aplicativo para celular (somente para Android).
