<\/p>\n
O Google DeepMind est\u00e1 buscando especialistas em f\u00edsica nuclear e engenharia nuclear para avaliar os riscos de seus modelos avan\u00e7ados de intelig\u00eancia artificial. A iniciativa faz parte dos esfor\u00e7os da empresa para identificar situa\u00e7\u00f5es em que sistemas de IA poderiam ajudar pessoas a desenvolver tecnologias perigosas, incluindo armas nucleares.<\/p>\n
A vaga foi publicada no portal oficial de carreiras do Google e est\u00e1 vinculada \u00e0 equipe de Desenvolvimento Respons\u00e1vel e Inova\u00e7\u00e3o, que trabalha com a identifica\u00e7\u00e3o e a redu\u00e7\u00e3o de riscos associados \u00e0 intelig\u00eancia artificial.<\/p>\n
A contrata\u00e7\u00e3o n\u00e3o significa que a empresa esteja desenvolvendo armas nucleares. O objetivo declarado \u00e9 investigar as capacidades dos modelos, identificar poss\u00edveis vulnerabilidades e criar mecanismos para impedir usos perigosos da tecnologia.<\/p>\n
A intelig\u00eancia artificial est\u00e1 avan\u00e7ando em \u00e1reas cient\u00edficas cada vez mais complexas. Embora esses avan\u00e7os possam ajudar em pesquisas e descobertas importantes, tamb\u00e9m existe a preocupa\u00e7\u00e3o de que sistemas avan\u00e7ados facilitem atividades potencialmente perigosas.<\/p>\n
A vaga procura um especialista capaz de avaliar se modelos de IA podem fornecer informa\u00e7\u00f5es que ajudem usu\u00e1rios mal-intencionados a avan\u00e7ar em pesquisas relacionadas \u00e0 prolifera\u00e7\u00e3o de armas nucleares.<\/p>\n
O trabalho envolve analisar capacidades dos sistemas em \u00e1reas como f\u00edsica nuclear, fus\u00e3o, armas termonucleares e fen\u00f4menos f\u00edsicos associados \u00e0 libera\u00e7\u00e3o de grandes quantidades de energia.<\/p>\n
A empresa tamb\u00e9m pretende desenvolver testes para identificar os limites dos modelos e entender em quais situa\u00e7\u00f5es suas respostas poderiam representar um risco.<\/p>\n
O profissional selecionado dever\u00e1 criar cen\u00e1rios de avalia\u00e7\u00e3o para verificar o tipo de assist\u00eancia que os modelos conseguem oferecer em \u00e1reas sens\u00edveis.<\/p>\n
Isso inclui investigar se a IA pode revelar conhecimentos especializados, sugerir procedimentos in\u00e9ditos ou reduzir o tempo e o esfor\u00e7o necess\u00e1rios para determinadas atividades perigosas.<\/p>\n
A partir desses testes, o especialista trabalhar\u00e1 com engenheiros para desenvolver mecanismos que bloqueiem respostas prejudiciais sem comprometer desnecessariamente o uso cient\u00edfico leg\u00edtimo dos modelos.<\/p>\n
A vaga exige doutorado em f\u00edsica de plasma, engenharia nuclear ou \u00e1rea relacionada, embora experi\u00eancia pr\u00e1tica equivalente tamb\u00e9m possa ser considerada. A empresa busca profissionais com experi\u00eancia em colabora\u00e7\u00e3o com laborat\u00f3rios nacionais norte americanos ou institui\u00e7\u00f5es governamentais.<\/p>\n
Conhecimentos sobre controle de armas, n\u00e3o prolifera\u00e7\u00e3o nuclear e redu\u00e7\u00e3o de amea\u00e7as tamb\u00e9m est\u00e3o entre os requisitos.<\/p>\n
A remunera\u00e7\u00e3o anunciada nos Estados Unidos varia de US$ 174 mil a US$ 252 mil por ano, al\u00e9m de b\u00f4nus, participa\u00e7\u00e3o acion\u00e1ria e benef\u00edcios.<\/p>\n
A contrata\u00e7\u00e3o faz parte de uma preocupa\u00e7\u00e3o mais ampla com a seguran\u00e7a da intelig\u00eancia artificial. O Google DeepMind mant\u00e9m uma estrutura chamada Frontier Safety Framework<\/em>, criada para identificar capacidades que possam representar riscos graves e definir medidas de prote\u00e7\u00e3o.<\/p>\n Em uma pesquisa publicada em 2024, a empresa apresentou avalia\u00e7\u00f5es de capacidades potencialmente perigosas de seus modelos Gemini. Os testes inclu\u00edram riscos biol\u00f3gicos e nucleares, al\u00e9m de outras \u00e1reas sens\u00edveis.<\/p>\n Naquele estudo, os pesquisadores n\u00e3o encontraram evid\u00eancias de capacidades perigosas avan\u00e7adas nos modelos avaliados, mas identificaram sinais iniciais que justificavam acompanhamento.<\/p>\n A nova vaga mostra como a empresa pretende aprofundar esse trabalho com profissionais especializados em \u00e1reas nas quais erros ou usos mal-intencionados podem ter consequ\u00eancias graves.<\/p>\n \u00c9 importante diferenciar os riscos relacionados a armas do uso da intelig\u00eancia artificial para pesquisas cient\u00edficas envolvendo energia nuclear.<\/p>\n Em 2025, o Google DeepMind anunciou uma parceria com a Commonwealth Fusion Systems para aplicar IA ao desenvolvimento de tecnologias de fus\u00e3o nuclear. O objetivo \u00e9 ajudar a enfrentar desafios cient\u00edficos relacionados \u00e0 produ\u00e7\u00e3o de energia por esse processo.<\/p>\n A fus\u00e3o nuclear \u00e9 diferente das rea\u00e7\u00f5es utilizadas em armas at\u00f4micas convencionais e \u00e9 estudada como uma poss\u00edvel fonte de energia de baixas emiss\u00f5es de carbono.<\/p>\n O contraste ajuda a explicar o desafio enfrentado pelas empresas de intelig\u00eancia artificial. A mesma tecnologia pode contribuir para avan\u00e7os cient\u00edficos e, dependendo de suas capacidades e da maneira como \u00e9 utilizada, apresentar riscos que precisam ser avaliados.<\/p>\n Com a contrata\u00e7\u00e3o de especialistas em f\u00edsica nuclear, o Google DeepMind busca aprimorar sua capacidade de identificar esses limites e desenvolver prote\u00e7\u00f5es antes que modelos mais avan\u00e7ados ofere\u00e7am riscos maiores.<\/p>\n Fontes:<\/p>\n Vaga oficial para especialista em f\u00edsica nuclear no Google DeepMind<\/a><\/p>\n Estrutura oficial de seguran\u00e7a para modelos avan\u00e7ados de intelig\u00eancia artificial<\/a><\/p>\n Pesquisa sobre a avalia\u00e7\u00e3o de capacidades potencialmente perigosas dos modelos de IA<\/a><\/p>\nIntelig\u00eancia artificial tamb\u00e9m \u00e9 usada em pesquisas nucleares<\/h2>\n