EUA e Reino Unido unem forças para avaliar riscos de IA


Estados Unidos e Reino Unido Concordaram em desenvolver testes para avaliar modelos de inteligência artificial. Ambos os países assinaram um Memorando de Entendimento no qual Eles se comprometem a trabalhar juntos para garantir a segurança da IA. Os testes ajudarão a avaliar os riscos em modelos mais avançados para abordá-los de forma eficaz.

A aliança, assinada pelo Departamento de Comércio dos EUA e pelo Departamento de Ciência, Inovação e Tecnologia do Reino Unido, entrará em vigor hoje. Conforme uma publicação da agência norte-americana, ambos os países trabalharão em estreita colaboração para “acelerar e iterar rapidamente conjuntos robustos de avaliações para modelos, sistemas e agentes de IA”. O memorando indica que realizará pelo menos um teste de segurança conjunto num modelo acessível ao público.

“Esta parceria irá acelerar o trabalho dos nossos dois institutos em todo o espectro de riscos, seja para a nossa segurança nacional ou para a nossa sociedade em geral”, disse a Secretária do Comércio dos EUA, Gina Raimondo. “Através da nossa colaboração, os nossos institutos obterão uma melhor compreensão dos sistemas de IA, realizarão avaliações mais robustas e emitirão orientações mais rigorosas”.

Por sua vez, Michelle Donelan, Secretária de Estado da Ciência, Inovação e Tecnologia do Reino Unido, acrescentou que este acordo fortalecerá os compromissos assumidos em o AI Safety Summit em novembro passado. “Sempre fomos claros que garantir o desenvolvimento seguro da IA ​​é uma questão global partilhada”, disse ela.

O Memorando de Entendimento assinado pelos Estados Unidos e pelo Reino Unido faz parte do os esforços de ambas as nações para evitar um cenário catastrófico. O Declaração de Bletchleyassinado por 28 governos, estabelece a criação de planos para medir, monitorar e mitigar capacidades potencialmente prejudiciais da IA.

Os Estados Unidos e o Reino Unido procurarão ameaças à segurança em modelos de IA

Mãos de robô de inteligência artificial escrevendo código

Um dos pontos do acordo menciona que, à medida que os Estados Unidos e o Reino Unido reforçarem a sua parceria em matéria de segurança da IA, desenvolverão ações semelhantes com outros países. Ambos os governos Eles compartilharão informações sobre as capacidades e riscos associados com modelos de inteligência artificial.

Após a assinatura da Declaração de Bletchley, o Reino Unido criou o AI Safety Institute para realizar avaliações. Embora grande tecnologia Eles concordaram em ter seus modelos auditados, Eles criticaram a falta de clareza dos testes e o tempo que levarão.

Um relatório de Tempos Financeiros acrescenta que algumas empresas não atrasarão ou alterarão seus modelos de IA com base nas descobertas do instituto. Diante disso, Ian Hogarth, chefe deste escritório, disse que as empresas de tecnologia concordaram que seriam realizados os testes pertinentes. “Compartilharemos as descobertas com os desenvolvedores conforme apropriado. No entanto, onde forem encontrados riscos, esperamos que eles tomem qualquer ação relevante antes do lançamento”, disse ele.

A parceria entre o Reino Unido e os Estados Unidos surge poucos dias depois a aprovação da Lei de Inteligência Artificial na União Europeia. O AI Law é o primeiro quadro jurídico garantir que os sistemas de IA respeitam os direitos fundamentais, a segurança e os princípios éticos. Europa definiu quatro níveis de risco e estabelece que todos os sistemas de IA considerados uma ameaça à segurança serão proibidos.

Receba todas as manhãs de nós Boletim de Notícias. Um guia para entender o que importa em relação à tecnologia, ciência e cultura digital.

Em processamento…

Preparar! Você Já Está Inscrito

Ocorreu um erro, atualize a página e tente novamente

Também em Hipertextual:



Source link

LEAVE A REPLY

Please enter your comment!
Please enter your name here