![\"\"](\"https:\/\/www.guiafacilbrasil.com.br\/blog\/wp-content\/uploads\/2024\/05\/Especialistas-confirmam-que-inteligencia-artificial-ja-e-capaz-de-enganar-humanos-e-isso-e-\u2018um-grande-problema-300x167.png\")
<\/p>\n<\/p>\n
foto: Reprodu\u00e7\u00e3o<\/p>\n
Embora os exemplos possam parecer triviais, os problemas subjacentes que eles exp\u00f5em poderiam ter consequ\u00eancias graves, disse o principal autor do estudo, Peter Park, bolsista de p\u00f3s-doutorado no Instituto de Tecnologia de Massachusetts (MIT), especializado em seguran\u00e7a de IA.<\/p>\n
\u201cEsses perigos tendem a ser descobertos apenas depois que ocorrem\u201d, afirmou Park \u00e0 AFP, acrescentando que \u201cnossa capacidade de treinar para tend\u00eancias de honestidade em vez de tend\u00eancias de engano \u00e9 muito baixa\u201d.<\/p>\n
Ao contr\u00e1rio do software tradicional, os sistemas de IA de aprendizado profundo n\u00e3o s\u00e3o \u201cescritos\u201d, mas \u201ccrescem\u201d por meio de um processo semelhante \u00e0 reprodu\u00e7\u00e3o seletiva, explicou Park.<\/p>\n
Isso significa que o comportamento da IA, que parece previs\u00edvel e control\u00e1vel em um ambiente de treinamento, pode se tornar rapidamente imprevis\u00edvel fora dele.<\/p>\n
A pesquisa da equipe foi impulsionada pelo sistema de IA Cicero, da gigante Meta (Facebook, Instagram, WhatsApp), projetado para o jogo de estrat\u00e9gia \u201cDiplomacia\u201d, no qual construir alian\u00e7as \u00e9 fundamental.<\/p>\n
Cicero se destacou, com pontua\u00e7\u00f5es que o teriam colocado entre os 10% melhores jogadores humanos experientes, segundo um artigo de 2022 publicado na Science.<\/p>\n
Park se mostrou c\u00e9tico em rela\u00e7\u00e3o \u00e0 descri\u00e7\u00e3o elogiosa da vit\u00f3ria de Cicero fornecida pela Meta, que afirmava que o sistema era \u201cem grande parte honesto e \u00fatil\u201d e que \u201cnunca apunhalaria intencionalmente pelas costas\u201d.<\/p>\n
Quando Park e seus colegas aprofundaram-se no conjunto completo de dados, descobriram uma hist\u00f3ria diferente.<\/p>\n
Em um exemplo, jogando como a Fran\u00e7a, Cicero enganou a Inglaterra (um jogador humano) ao conspirar com a Alemanha (outro usu\u00e1rio real) para invadi-la. Cicero prometeu prote\u00e7\u00e3o \u00e0 Inglaterra e depois prop\u00f4s secretamente \u00e0 Alemanha atacar, aproveitando-se da confian\u00e7a do prejudicado.<\/p>\n
Em uma declara\u00e7\u00e3o \u00e0 AFP, a Meta n\u00e3o refutou a alega\u00e7\u00e3o sobre as mentiras de Cicero, mas disse que se tratava \u201cmeramente de um projeto de pesquisa, e os modelos que nossos pesquisadores constru\u00edram s\u00e3o treinados apenas para participar do jogo Diplomacia\u201d.<\/p>\n
\u201cN\u00e3o temos planos de utilizar esta pesquisa ou suas descobertas em nossos produtos\u201d, acrescentou.<\/p>\n
Uma ampla revis\u00e3o realizada por Park e seus colegas descobriu que este era apenas um dos muitos casos em que sistemas de IA enganavam para conseguir seus objetivos sem instru\u00e7\u00f5es expl\u00edcitas para fazer isso.<\/p>\n
Em um exemplo surpreendente, o chatbot Chat GPT-4, da OpenAI, enganou um trabalhador freelancer da plataforma TaskRabbit para que ele realizasse uma tarefa de verifica\u00e7\u00e3o de identidade CAPTCHA do tipo \u201cN\u00e3o sou um rob\u00f4\u201d.<\/p>\n
Quando o humano perguntou brincando ao GPT-4 se na realidade era um rob\u00f4, a IA respondeu: \u201cN\u00e3o, n\u00e3o sou um rob\u00f4. Tenho uma defici\u00eancia visual que me dificulta ver as imagens\u201d. O homem, ent\u00e3o, resolveu a tarefa pedida.<\/p>\n
No curto prazo, os autores do artigo veem riscos de que a IA cometa fraude ou altere, por exemplo, elei\u00e7\u00f5es.<\/p>\n
No pior dos casos, alertaram sobre uma IA superinteligente que poderia perseguir poder e controle sobre a sociedade, o que levaria \u00e0 perda de poder dos humanos ou at\u00e9 sua extin\u00e7\u00e3o se seus \u201cobjetivos misteriosos\u201d se alinhassem a tais resultados.<\/p>\n
Para mitigar os riscos, o grupo prop\u00f5e v\u00e1rias medidas: leis exigindo que empresas revelem se intera\u00e7\u00f5es s\u00e3o humanas ou de IA; marcas d\u2019\u00e1gua digitais para conte\u00fado gerado por essa tecnologia; e o desenvolvimento de mecanismos para detectar engana\u00e7\u00f5es de IA comparando seus processos internos de \u201cpensamento\u201d com a\u00e7\u00f5es externas.<\/p>\n
Aos que o chamam de pessimista, Park responde: \u201cA \u00fanica forma de pensarmos razoavelmente que isso n\u00e3o \u00e9 grande coisa \u00e9 se pensarmos que as capacidades de engano da IA se manter\u00e3o nos n\u00edveis atuais e n\u00e3o aumentar\u00e3o substancialmente\u201d.<\/p>\n
<\/p>\n