À medida que dezenas de AEs financiados pela tecnologia se espalham pelos principais nós políticos em Washington, estão a desencadear um conflito cultural – aterrando na cultura incremental e orientada para o detalhe da cidade com um fervor mais parecido com os convertidos religiosos do que com os profissionais políticos.
Os reguladores em Washington geralmente vivem num mundo de disputas práticas, como a forma como a IA poderia promover o perfil racial, espalhar a desinformação, minar os direitos de autor ou deslocar trabalhadores. Mas os EAs, energizados por uma mistura única de admiração e medo no ritmo da tecnologia, habitam um reino existencial.
“O pessoal da EA destaca-se por falar sobre um tema totalmente diferente, num estilo totalmente diferente”, disse Robin Hanson, economista da Universidade George Mason e antigo altruísta eficaz. “Eles estão apresentando argumentos bastante abstratos sobre uma preocupação bastante abstrata e estão aumentando os riscos ao máximo.”
A partir das suas novas posições no Capitólio, em agências federais e em grupos de reflexão importantes, os EA estão a pressionar legisladores, funcionários de agências e profissionais de política experientes para apoiarem leis abrangentes que “alinhariam” a IA com os objectivos e valores humanos.
Praticamente todas as políticas que os EAs e os seus aliados estão a promover —
novas regras de relatórios para modelos avançados de IA,
requisitos de licenciamento para empresas de IArestrições aos modelos de código aberto, repressões à mistura de IA com biotecnologia ou mesmo uma
completar “pausa” em experimentos de IA “gigantes” – estão em prol desse objetivo.
“Isso não deve ser agrupado da mesma forma que dizer: ‘Bem, isso é apenas mais uma questão tecnológica. Já lidamos com questões tecnológicas há muito tempo, temos tempo para lidar com isso.’ Porque realmente não sabemos”, disse Emilia Javorsky, diretora do programa de futuros do Future of Life Institute – uma organização
fundada por luminares da EA e
financiado em parte por uma fundação financiada pelo bilionário da tecnologia Elon Musk, que chama a EA de “correspondência próxima” à sua filosofia.
“Se não começarmos a traçar os limites agora, o gênio saiu da garrafa – e será quase impossível colocá-lo de volta”, alertou Javorsky.
Os profetas do apocalipse da IA
são impulsionados por uma avalanche de dólares de tecnologiacom grande parte fluindo através da Filantropia Aberta – um grande financiador de causas altruístas eficazes, fundada e financiada pelo bilionário cofundador do Facebook, Dustin Moskovitz, e sua esposa Cari Tuna, que tem
bombeou centenas de milhões de dólares em
think tanks influentes e
programas que colocam funcionários nos principais escritórios do Congresso e em agências federais.
“É uma infiltração épica”, disse um investigador de biossegurança em Washington, ao qual foi concedido o anonimato para evitar reações adversas por parte dos financiadores ligados à AE.
Os EAs estão particularmente fixados na possibilidade de que futuros sistemas de IA possam combinar-se com ferramentas de síntese genética e outras tecnologias para criar armas biológicas que matam milhares de milhões de pessoas – um fenómeno que dá aos investigadores mais tradicionais de IA e biossegurança um lugar na primeira fila à medida que a nova filosofia do Vale do Silício se espalha. em Washington.
Muitos desses investigadores afirmam que os financiadores bilionários da EA – que muitas vezes possuem laços pessoais e financeiros estreitos com empresas como a OpenAI e a Anthropic – estão a tentar distrair Washington da análise do impacto da IA no mundo real, incluindo a sua tendência para promover preconceitos raciais ou de género, minar a privacidade. e enfraquecer as proteções de direitos autorais.
Eles também temem que os financiadores da indústria tecnológica da EA estejam a agir no seu próprio interesse, trabalhando para isolar as principais empresas de IA da concorrência, promovendo regras que, em nome da “segurança da IA”, bloqueiam o acesso à tecnologia.
“Muitos (EAs) acham que menos jogadores observados com mais cuidado é mais seguro, do ponto de vista deles”, disse Hanson. “Portanto, eles não estão tão ansiosos para reduzir a concentração nesta indústria, ou a centralização do poder nesta indústria.”
A origem geralmente branca e privilegiada dos adeptos da AE também suscitou suspeitas em Washington, especialmente entre legisladores negros preocupados com a forma como os sistemas de IA existentes podem prejudicar as comunidades marginalizadas.
“Não pretendo criar estereótipos de amigos da tecnologia, mas sabemos que esta não é uma área que muitas vezes seleciona a diversidade da América”, disse o senador. Cory Booker (DN.J.) disse ao POLITICO em setembro.
“Essa ideia de que de alguma forma chegaremos a um ponto em que viveremos um pesadelo do Exterminador do Futuro – sim, estou preocupado com essas coisas existenciais”, disse Booker. “Mas o imediatismo daquilo que já usamos — a maioria dos americanos não percebe que a IA já existe, desde a seleção de currículos até os anúncios que vejo no meu telefone.”
Apesar dessas preocupações, a enorme quantidade de dinheiro canalizada para Washington pela Open Philanthropy e outros grupos ligados à EA deu ao movimento uma influência significativa sobre o debate sobre IA e biossegurança em Washington.
“O dinheiro é esmagadoramente desequilibrado”, disse Hanson, referindo-se ao apoio a bolsistas e funcionários de políticas específicas de IA.
Funcionários de IA e biossegurança financiados pela Open Philanthropy
estão incorporados em escritórios do Congresso na vanguarda de possíveis regras de IAincluindo todos os três gabinetes do Senado escolhidos pelo líder da maioria Chuck Schumer para investigar a tecnologia. E os mais de meia dúzia de pesquisadores céticos em IA e biossegurança que conversaram com o POLITICO dizem que a densa rede de funcionários do Capitólio e de agências – financiada por centenas de milhões de dólares da EA – está distorcendo a forma como os legisladores discutem a segurança da IA, que de outra forma permanece um nicho relativamente campo em Washington.
Um investigador de IA e biossegurança em Washington disse que os legisladores e outros profissionais políticos estão a ser empurrados para um foco nos riscos existenciais da IA pela pura força da repetição.
“É mais apenas a permanência objetiva de ter aquela mensagem constantemente na sua cara”, disse o pesquisador, que também obteve anonimato para evitar perda de financiamento.
