Entre aqueles que precisam de alguma clareza estão os cientistas governamentais e especialistas em IA de vários países que se reuniram em São Francisco esta semana para deliberar sobre Segurança de IA medidas.
Organizados pela administração Biden, funcionários de vários aliados dos EUA – entre eles Austrália, Canadá, Japão, Quênia, Cingapura, Reino Unido e os 27 países da União Europeia – começaram a se reunir na quarta-feira na cidade da Califórnia que é um centro comercial para IA desenvolvimento.
A sua agenda aborda tópicos como a melhor forma de detectar e combater uma enxurrada de deepfakes gerados por IA que alimentam a fraude, a representação prejudicial e o abuso sexual.
É a primeira reunião deste tipo desde que os líderes mundiais concordaram, numa cimeira sobre IA na Coreia do Sul, em Maio, em construir uma rede de institutos de segurança apoiados publicamente para promover a investigação e os testes da tecnologia.
“Temos uma escolha”, disse a secretária de Comércio dos EUA, Gina Raimondo, à multidão de autoridades, acadêmicos e participantes do setor privado na quarta-feira. “Somos nós que desenvolvemos esta tecnologia. São vocês que desenvolvem esta tecnologia. Podemos decidir como será.”
Descubra as histórias de seu interesse
Tal como outros oradores, Raimondo abordou as oportunidades e riscos da IA – incluindo “a possibilidade de extinção humana” e perguntou por que permitiríamos isso? “Por que escolheríamos permitir que a IA nos substituísse? Por que escolheríamos permitir a implantação de IA que causará desemprego generalizado e a perturbação social que a acompanha? Por que comprometeríamos a nossa segurança global?” ela disse. “Não deveríamos. Na verdade, eu diria que temos a obrigação de manter nossos olhos bem abertos a cada passo para esses riscos e evitar que eles aconteçam. E não vamos deixar que nossa ambição nos cegue e nos permita ser sonâmbulos em nossa própria desfazendo.”
Hong Yuen Poon, vice-secretário do Ministério de Desenvolvimento Digital e Informação de Cingapura, disse que uma “mentalidade de ajuda mútua é importante” entre os países quando se trata de segurança de IA, inclusive com “países em desenvolvimento que podem não ter todos os recursos”. para estudá-lo.
Biden assinou uma ordem executiva abrangente de IA no ano passado e este ano formou o novo Instituto de Segurança de IA no Instituto Nacional de Padrões e Tecnologia, que faz parte do Departamento de Comércio.
Trump prometeu na sua plataforma de campanha presidencial “revogar a perigosa Ordem Executiva de Joe Biden que impede a inovação da IA e impõe ideias de esquerda radical no desenvolvimento desta tecnologia”.
Mas ele não deixou claro o que não gosta da ordem ou o que faria em relação ao AI Safety Institute. A equipe de transição de Trump não respondeu aos e-mails esta semana solicitando comentários.
Respondendo às preocupações sobre a desaceleração da inovação, Raimondo disse que queria deixar claro que o Instituto de Segurança de IA dos EUA não é um regulador e também “não está no negócio de sufocar a inovação”.
“Mas o problema é o seguinte. A segurança é boa para a inovação. A segurança gera confiança. A confiança acelera a adoção. A adoção leva a mais inovação”, disse ela.
Os grupos da indústria tecnológica – apoiados por empresas como Amazon, Google, Meta e Microsoft – estão sobretudo satisfeitos com a abordagem de segurança da IA do Departamento de Comércio de Biden, que se concentrou no estabelecimento de padrões voluntários. Eles pressionaram para que o Congresso preservasse a nova agência e codificasse o seu trabalho em lei.
Alguns especialistas esperam que o tipo de trabalho técnico que está acontecendo esta semana em um antigo clube de oficiais militares no Parque Nacional Presidio, em São Francisco, prossiga independentemente de quem esteja no comando.
“Não há razão para acreditar que faremos um giro de 180º no que diz respeito ao trabalho do AI Safety Institute”, disse Heather West, pesquisadora sênior do Centro de Análise de Política Europeia. Por trás da retórica, ela disse que já houve sobreposição.
Trump não passou muito tempo falando sobre IA durante seus quatro anos como presidente, embora em 2019 tenha se tornado o primeiro a assinar uma ordem executiva sobre IA. Ele orientou as agências federais a priorizarem a pesquisa e o desenvolvimento na área.
Antes disso, os especialistas em tecnologia pressionavam a Casa Branca da era Trump para uma estratégia de IA mais forte que correspondesse ao que outros países procuravam. Trump, nas últimas semanas de sua administração, assinou uma ordem executiva promovendo o uso de IA “confiável” no governo federal.
Essas políticas foram transferidas para a administração Biden.
Tudo isso foi antes da estreia do ChatGPT em 2022, que trouxe fascínio e preocupação ao público sobre as possibilidades da IA generativa e ajudou a desencadear um boom nos negócios afiliados à IA. O que também é diferente desta vez é que o magnata da tecnologia e conselheiro de Trump, Elon Musk, foi escolhido para liderar uma comissão governamental de corte de custos.
Musk tem opiniões fortes sobre os riscos da IA e ressentimentos contra alguns líderes da indústria de IA, especialmente o fabricante do ChatGPT, OpenAI, que ele processou.
Raimondo e outras autoridades procuraram transmitir a ideia de que a segurança da IA não é uma questão partidária.
“E, a propósito, esta sala é maior do que a política. A política está na mente de todos. Não quero falar sobre política. Não me importa em que partido político você pertence, isso não é do interesse republicano ou democrata. interesse”, disse ela. “Francamente, não é do interesse de ninguém em qualquer lugar do mundo, em qualquer partido político, que a IA seja perigosa ou que a IA caia nas mãos de atores não estatais maliciosos que querem causar destruição e semear o caos.”