A nova maioria democrata no Congresso dos Estados Unidos e a reeleição do presidente Lula, que definiu a regulação da inteligência artificial (IA) como prioridade para o novo governo, deram novo impulso ao tema. Como exemplo, um dia após a eleição americana, as ações da Tesla caíram cerca de 5% no pré-mercado e as da SpaceX, 6,9%, sinal de que os investidores temem regras mais rígidas para as empresas de Elon Musk.
Esse impulso chega quando as próprias empresas de IA, antes de qualquer regra estatal, já ensaiam conter seus avanços. Em 12 de setembro, Dario Amodei, CEO da Anthropic, publicou um ensaio defendendo que o setor reduza o ritmo de desenvolvimento dos modelos mais avançados de IA, para que haja tempo de desenvolver mecanismos de segurança e controle à altura de suas capacidades. A proposta inclui avaliadores externos com acesso permanente às empresas, padrões comuns de segurança e coordenação internacional. O próprio Amodei admite, porém, que o caminho mais eficaz seria regular todos os desenvolvedores.
Pouco depois, Sam Altman, da OpenAI, Elon Musk, da xAI, e Demis Hassabis, do Google DeepMind, manifestaram apoio à ideia de reduzir o ritmo de desenvolvimento.
Ainda que interpretada por alguns como estratégia de publicidade ou reação aos avanços chineses, não é trivial que, em uma indústria marcada por intensa competição, os principais participantes da corrida reconheçam publicamente a necessidade de desacelerar.
O gesto veio na esteira de alertas de pesquisadores que ajudaram a construir esses sistemas. Dias antes do ensaio, Jacob Coxon, pesquisador da Anthropic com passagem pela OpenAI, deixou a empresa afirmando que as principais empresas do setor avançavam rumo a sistemas cada vez mais poderosos sem que a segurança os acompanhasse.
Diante do que parecia ser um consenso, Donald Trump e Wall Street responderam em sentido diametralmente oposto. O presidente norte-americano rejeitou novas barreiras à IA, afirmando que os Estados Unidos já têm mecanismos regulatórios suficientes. O mercado tampouco pareceu disposto a recuar: as ações de Microsoft, Alphabet e Meta avançaram mais de 2% na sessão seguinte, movimento que o Wall Street Journal descreveu como continuidade da aposta dos investidores no desenvolvimento da IA.
Temos, portanto, um impasse. De um lado, os próprios dirigentes das empresas reconhecem que a velocidade da corrida pode estar produzindo riscos não acompanhados por mecanismos de segurança adequados. De outro, os incentivos econômicos e competitivos que estruturam o setor continuam a pressionar na direção contrária.
O que acontece quando os participantes de uma corrida reconhecem que pode haver riscos relevantes em continuar correndo, mas a estrutura de incentivos do mercado não parece querer parar?
Filme repetido
Há quase duas décadas, durante o governo George W. Bush, enquanto a Casa Branca resistia a limites obrigatórios para as emissões de gases de efeito estufa, gigantes como Alcoa, BP America, Caterpillar, DuPont, General Electric e PG&E aliaram-se a organizações ambientais e fundaram, em janeiro de 2007, a United States Climate Action Partnership (USCAP). A coalizão defendia justamente um sistema nacional obrigatório de redução de emissões.
Por que empresas que seriam diretamente afetadas por uma regulação mais rigorosa defenderiam sua criação? Porque os esforços individuais de redução de emissões enfrentam um problema de ação coletiva: os benefícios são compartilhados por todos, enquanto os custos recaem sobre quem decide agir. Uma empresa que voluntariamente assuma custos ambientais adicionais pode simplesmente colocar-se em desvantagem diante de concorrentes que não façam o mesmo. Uma regra comum, ao contrário, transforma a decisão em uma condição geral de competição.
Esse parece ser o mesmo problema econômico subjacente à atual corrida pela IA. Uma empresa pode entender que determinado modelo apresenta riscos relevantes ou concluir pela necessidade de pausar. No entanto, se seus concorrentes continuarem desenvolvendo modelos mais poderosos, a decisão de desacelerar pode significar perda de mercado, capital, pesquisadores e capacidade tecnológica. A empresa que decide desacelerar assume integralmente o custo dessa decisão, enquanto o benefício é amplamente distribuído.
Nesse contexto, um alto executivo pode considerar determinada decisão de negócio, ainda que perfeitamente legal e diligente, irresponsável do ponto de vista social ou até mesmo moralmente questionável. Se seus concorrentes continuarem avançando no mesmo sentido, entretanto, os custos de recusá-la isoladamente podem se tornar economicamente difíceis de sustentar.
Na corrida pela IA, o que se observa é uma tentativa de autocorreção que, ao menos por enquanto, parece ser mais aparente do que efetiva. Antes que um grande choque externo, como uma intervenção estatal capaz de impor uma reorientação das estruturas de governança, se produza, as próprias empresas procuram adaptar estrategicamente suas práticas diante do crescente reconhecimento dos riscos associados a uma trajetória de desenvolvimento acelerado.
Isso nos leva a um problema maior do que a segurança de modelos específicos ou do setor de tecnologia. Em vez de perguntar apenas se os desenvolvedores agirão com prudência, deveríamos perguntar que incentivos o próprio mercado cria para que avancem além do ritmo que considerariam prudente individualmente. Afinal, que mecanismos de governança os empurram nessa direção, e até que ponto decisões individuais podem contrariá-los?
Parte da resposta está em trabalho recente de Dorothy Lund e Elizabeth Pollman, para quem a governança corporativa não é um conjunto neutro de procedimentos, mas uma “máquina” orientada para o valor do acionista, movida por investidores institucionais, consultorias de voto e bolsas de valores. Nela, preocupações sociais só avançam quando traduzidas em risco ou retorno. Esperar que um conselho freie sozinho a corrida é pedir à máquina que funcione contra a própria lógica.
Como mostram as autoras, a agenda de sustentabilidade corporativa, que também esteve na base da criação da USCAP, ganhou força ao ser formulado em termos de valor para o acionista. Empresas e investidores aderem a ele menos por razões morais do que pela crença de que gera valor duradouro ou melhores retornos ajustados ao risco. O próprio propósito corporativo passou da maximização do preço das ações à do “valor de longo prazo” ou do “bem-estar” do acionista.
Essa forma de autocontenção suaviza a rigidez da primazia do acionista e, na IA, como em qualquer setor que se impõe limites, tem o preço de exigir mais tempo e recursos para desenvolver produtos com maior cuidado. Ainda assim, não parece haver outro caminho, pois, conforme apontam Lund e Pollman, quem quer mudar o modo como as companhias decidem precisa fazê-lo dentro da lógica do acionista, gerando valor que compense a contenção.
Em outras palavras, não basta que padrões de desenvolvimento da IA orientados à preservação do bem-estar coletivo sejam socialmente benéficos. Para funcionar, a regulação da IA precisa beneficiar também os investidores, e mesmo a autorregulação voluntária só é efetiva quando obedece a essa lógica, como se viu no caso da USCAP.
Resta às empresas que lideram a corrida perceber que esse benefício existe, tendo em vista que a exposição ao risco é comum. Como alertaram funcionários dissidentes, um incidente grave atingiria todo o setor, quando não toda a humanidade.
Além disso, falta ainda ao acordo firmado em setembro na Casa Branca o que daria legitimidade e efetividade a essa autocontenção, como avaliadores que não sejam escolhidos e pagos apenas pelo avaliado, comunicação obrigatória de incidentes ao público e um piso comum que retire de cada empresa o ônus de ser a primeira a desacelerar. Sem isso, o compromisso “moralmente vinculante” servirá menos para conter os riscos de uma corrida desenfreada do que para adiar a regra que o próprio acordo admite poder vir a ser necessária.