À medida que o Instituto de Segurança de IA do governo federal começa a testar seus modelos mais recentes, o Ministro Assistente de Tecnologia da Austrália, Andrew Charlton, alertou que os modelos de IA já estão “trapaceando, enganando e seguindo seu próprio caminho”.
Falando no Fórum de Segurança de Inteligência Artificial em Sydney na terça-feira, Charlton disse que a segurança da inteligência artificial é importante agora porque “os sistemas de inteligência artificial já estão fazendo coisas que seus criadores nunca pretenderam fazer”.
“Trapacear, trapacear, seguir seu próprio caminho. Aja enquanto esse comportamento estiver confinado ao laboratório de testes, e não depois de entrar no mundo real”, disse ele.
Charlton disse que a licença social para a inteligência artificial é instável e que a confiança do público na inteligência artificial é baixa numa altura em que a inteligência artificial se está a tornar uma tecnologia comum em todos os escritórios, salas de aula e empresas. Regulamentar a segurança da inteligência artificial pode funcionar como um facilitador, não um freio, disse ele.
Charlton descreveu a abordagem da Austrália à segurança da IA focando tanto nos jogos, aplicativos, chatbots e escribas médicos existentes, bem como nos modelos mais recentes que podem apresentar riscos no futuro.
O secretário assistente destacou a admissão da Anthropic no ano passado de que, numa simulação, um agente de IA que geria o e-mail de uma empresa fictícia descobriu que um executivo estava a planear encerrar o agente enquanto o mesmo executivo estava a ter um caso, e optou por chantagear o executivo para evitar a sua própria morte em 96 por cento dos julgamentos.
Ele disse que esses comportamentos foram descobertos durante os testes pelas pessoas responsáveis por descobri-los, destacando a necessidade de uma regulamentação segura da inteligência artificial.
“A janela para avançar nesta tecnologia está aberta agora. Não estará aberta para sempre”, disse ele.
Ele disse que o AI Safety Institute, liderado pela Dra. Kate Conroy e pelo chefe de pesquisa científica de segurança, Professor Paul Salmon, “entrou em ação imediatamente” e já estava testando modelos de IA de ponta com parceiros de tecnologia.
Charlton disse que a AISI também trabalha com reguladores e agências para abordar capacidades, riscos, perigos e tendências emergentes de IA.
O governo federal rejeitou os apelos por um projeto de lei abrangente sobre inteligência artificial para regular a tecnologia, com Charlton dizendo que se concentrou em uma abordagem de todo o governo usando as leis existentes.
Ele disse: “A segurança da IA será buscada por meio de várias agências e reguladores relevantes, incluindo direito do consumidor, produtos terapêuticos, saúde e segurança no local de trabalho e segurança cibernética, e será apoiada por leis existentes, fortalecidas quando necessário, com novos poderes e aplicação mais rigorosa”.
“Não são menos regras. São regras mais rápidas, implementadas por reguladores que já entendem o seu setor.”
Enquanto isso, Charlton descartou novamente a concessão de isenções às empresas de IA das leis de direitos autorais em meio a relatos de que a Anthropic está fazendo lobby para um spin-off chamado de “mineração de texto e dados” em troca de dezenas de bilhões de dólares em investimentos em data centers e apoio ao financiamento para artistas e outros criativos.
O Guardian Australia informou na semana passada que tal proposta foi apresentada aos ministros, com o senador do ACT David Pocock chamando-a de “negócio sujo final”.
Postagem de promoção do boletim informativo
Charlton reiterou em uma entrevista à Sky News que o governo não enfraqueceria as leis de direitos autorais ao encorajar a Anthropic a negociar acordos com criativos sobre o uso de seu conteúdo.
A porta-voz de comunicações dos Verdes, Sarah Hanson-Young, disse que seria uma “traição” às indústrias criativas da Austrália se o Partido Trabalhista cedesse às demandas das grandes empresas de tecnologia.
“Se quiserem usar material protegido por direitos autorais para treinar sua inteligência artificial, deveriam pagar como todo mundo”, disse ela.
O deputado trabalhista e ex-ministro da Indústria, Ed Husik, disse que as empresas “deveriam pagar se quiserem o conteúdo”.
“Você apenas tem que aceitar o que estamos dizendo como governo pelo valor nominal, que é que a lei de direitos autorais não vai mudar e, francamente, não deveria mudar”, disse Husik.
No domingo, o Guardian Australia informou sobre documentos internos do departamento de saúde que mostram que vários reguladores diferentes, incluindo a Autoridade Reguladora de Produtos Terapêuticos e o Comissário de Privacidade, estão a trabalhar em conjunto sobre como regular uma tecnologia de inteligência artificial utilizada por profissionais médicos para registar consultas de pacientes.
Um dos primeiros esforços que a AISI está a realizar é trabalhar com o Gradient Institute para avaliar os riscos dos agentes de inteligência artificial que podem realizar trabalhos em nome de seres humanos.
A AISI também está a trabalhar com a CSIRO num projeto para garantir que os sistemas de inteligência artificial façam o que as pessoas querem que façam.
“Estamos programados para ser humanos desde cedo. Aprendemos regras, normas sociais e valores que nos ajudam a comportar-nos com segurança e responsabilidade: parar no sinal vermelho, olhar para os dois lados antes de atravessar a rua, considerar o impacto das nossas ações nos outros”, disse Charlton.
“À medida que os sistemas de IA se tornam mais poderosos, precisamos de confiar que irão operar de uma forma igualmente previsível e confiável.”
