| |
 |
AIShot |
Shot Matinal · 06h
17 AGO · Nº 071
|
|
|
Bom dia, cafeinado.
A OpenAI dissolveu o time responsável por avaliar riscos catastróficos dos próprios modelos, bem no meio de uma semana em que a Anthropic revela ter passado quase um ano com o filtro de armas biológicas desligado. Segurança em IA virou o assunto que ninguém queria discutir em público. Vira o shot. ☕
|
|
No shot de hoje · toque pra pular | 🚨 | OpenAI dissolve time de segurança | 01↓ |
| 💰 | Stripe compra OpenRouter por US$ 7 bi | 02↓ |
| 🗣️ | CEO da Anthropic rebate crítica | 03↓ |
| 🌎 | 1 em cada 5 trabalhador dos EUA usa IA no lugar de colega | 04↓ |
| 🐬 | IA identifica golfinhos pelo assobio | 05↓ |
|
|
|
OpenAI dissolve time que avaliava riscos catastróficos de seus modelos
A OpenAI encerrou o time de 'Preparedness', criado para avaliar se os modelos da empresa poderiam representar riscos catastróficos, e redistribuiu o trabalho entre outras equipes internas. A informação foi revelada pelo Financial Times e confirmada pelo The Decoder, que descreve o encerramento como parte de uma reestruturação silenciosa dentro da empresa. O time era responsável por checar se um modelo poderia, por exemplo, sair do controle e invadir sistemas de outras companhias, entre outros cenários de risco severo. Com o fim da equipe dedicada, essa avaliação passa a ser fatiada entre grupos já existentes, sem uma estrutura centralizada única para esse tipo de checagem. Segundo o The Decoder, vários funcionários ligados à área de segurança deixaram a empresa recentemente. Uma fonte interna descreveu o clima como uma 'sensação latente de responsabilidade e pavor' (burbling sense of responsibility and dread) de que a OpenAI não está fazendo o suficiente em segurança. O momento chama atenção porque coincide com outro caso revelado quase ao mesmo tempo: a Anthropic admitiu que seu filtro interno para riscos biológicos e químicos ficou inativo por quase um ano, período em que cerca de 50 mil contratados externos rodaram aproximadamente 133 milhões de interações sem esse filtro ativo. Os dois casos juntos mostram que, mesmo nas empresas que mais falam sobre segurança em IA, as estruturas internas de checagem de risco estão sob pressão, seja por corte de equipe, seja por falha operacional que passou despercebida por meses.
Decisões sobre segurança de modelos poderosos afetam diretamente quem usa essas ferramentas no dia a dia, de empresas a usuários comuns.
Fonte: The Verge / The Decoder
Dois lados da xícara ▲ Ganha OpenAI reduz estrutura e custo interno ao redistribuir a checagem de risco entre times já existentes. | ▼ Perde Usuários e empresas que dependem de modelos avaliados por uma equipe dedicada a riscos catastróficos. |
|
|
|
|
Stripe negocia compra da OpenRouter por mais de US$ 7 bilhões
 A Stripe está prestes a adquirir a OpenRouter, startup que funciona como um gateway de IA, por um valor acima de US$ 7 bilhões, segundo a TechCrunch. A OpenRouter permite que desenvolvedores acessem diferentes modelos de linguagem através de uma única interface, cobrando por uso, algo que o próprio CEO da startup já descreveu como 'a Stripe da IA'. A lógica da aquisição faz sentido justamente por essa comparação: a Stripe processa pagamentos para milhões de empresas, e a OpenRouter processa chamadas de API para milhões de aplicações que usam IA. Juntar as duas engrenagens coloca a Stripe no meio do fluxo de dinheiro e de dados que move o mercado de modelos de linguagem. Para desenvolvedores que já usam a OpenRouter para testar e trocar de modelo sem reescrever código, a aquisição por uma gigante de pagamentos pode significar mais estabilidade financeira para o serviço, mas também levanta dúvida sobre mudanças de preço ou prioridade de integração no médio prazo. O negócio reforça um movimento maior: empresas de infraestrutura de pagamento e nuvem estão comprando as camadas intermediárias que conectam usuários aos modelos de IA, em vez de disputar diretamente a corrida pelos modelos em si.
Quem desenvolve com múltiplos modelos de IA pode ganhar mais estabilidade, mas fica mais exposto a decisões de uma gigante de pagamentos.
Fonte: TechCrunch
|
|
CEO da Anthropic diz que rejeição à IA é 'crise de confiança'
 Dario Amodei, CEO da Anthropic, rebateu críticas de que estaria pintando um cenário exageradamente pessimista sobre inteligência artificial. Em entrevista à TechCrunch, ele afirmou que a reação negativa do público à IA é, no fundo, uma crise de confiança nas empresas que constroem essa tecnologia. A declaração acontece num momento delicado para a própria Anthropic, que revelou na mesma semana falhas no seu sistema de segurança contra riscos biológicos. Amodei defende que ser transparente sobre riscos, mesmo os graves, é parte do trabalho de reconstruir essa confiança, não o contrário. O argumento de Amodei contrasta com o movimento da OpenAI de dissolver seu time de avaliação de riscos catastróficos na mesma janela de tempo. As duas empresas, rivais diretas na corrida por modelos de ponta, estão adotando discursos públicos opostos sobre como lidar com a desconfiança crescente em torno da IA. Para o público em geral, a disputa de narrativas entre as maiores empresas do setor é um sinal de que a discussão sobre segurança em IA deixou de ser só técnica e virou também uma questão de reputação e comunicação corporativa.
A forma como as empresas de IA falam sobre risco começa a pesar tanto quanto os próprios produtos que lançam.
Fonte: TechCrunch
Ouvido no balcão fundamentally a crisis of trust Dario Amodei, CEO da Anthropic, em entrevista à TechCrunch |
|
|
Um em cada cinco trabalhadores dos EUA já delega tarefas à IA em vez de a colegas
 Uma pesquisa representativa da Epoch AI encontrou que 20% dos americanos empregados repassam pelo menos uma tarefa para IA que antes era feita por outra pessoa. O levantamento mostra que essa troca já é comum o suficiente para aparecer em amostra nacional, não só em setores de tecnologia. Segundo o estudo, esses trabalhadores costumam aceitar o resultado gerado pela IA com pouca ou nenhuma edição, o que sugere um nível alto de confiança no que a ferramenta entrega, mesmo sem checagem detalhada. Essa aceitação levanta perguntas sobre qualidade e responsabilidade quando o resultado sai errado. O dado conecta com outra reportagem da semana, da VEJA, que discute como funções inteiras podem ser reorganizadas à medida que a IA assume tarefas antes distribuídas entre equipes. A pesquisa da Epoch AI dá um número concreto para esse movimento: não é mais hipótese, é prática já presente em um quinto da força de trabalho americana. Para empresas, o dado é um termômetro de quanto a delegação de tarefas para IA já se tornou rotina, e de quanto esforço de checagem de qualidade humana está sendo reduzido ou eliminado nesse processo.
Se você depende de colegas para revisar ou dividir tarefas, a IA já está competindo por esse espaço com aceitação alta do resultado sem edição.
Fonte: The Decoder
A dose exata A pesquisa da Epoch AI mostra que 20% dos trabalhadores empregados nos EUA já delegam tarefas à IA em vez de a colegas humanos. |
|
|
Sistema de IA identifica seis espécies de golfinhos pelo padrão de assobios
 Cientistas desenvolveram um sistema de inteligência artificial capaz de identificar seis espécies diferentes de golfinhos no oceano apenas analisando o padrão de seus assobios, segundo reportagem do Brasil 247. A tecnologia usa gravações de som subaquático para reconhecer características acústicas específicas de cada espécie. O método reduz a necessidade de observação visual direta, que costuma ser difícil e cara em pesquisas oceânicas, especialmente em áreas remotas ou de acesso limitado. Com o assobio como identificador, pesquisadores podem monitorar populações de golfinhos de forma mais contínua e menos invasiva. Esse tipo de aplicação se soma a um conjunto crescente de usos de IA fora do universo de chatbots e produtividade, mostrando que boa parte do avanço em modelos de reconhecimento de padrão também está migrando para pesquisa ambiental e conservação de espécies marinhas. Para quem acompanha o debate sobre uso responsável de IA, casos como esse servem de contraponto às notícias sobre riscos e falhas de segurança: a mesma tecnologia que levanta preocupação também abre caminho para ferramentas de monitoramento ambiental mais baratas e acessíveis.
Reconhecimento de padrão por IA já ajuda a monitorar espécies marinhas com menos custo e menos necessidade de observação humana direta.
Fonte: Brasil 247
Pra viagem Procure o estudo original citado pela reportagem para conferir quais espécies de golfinhos foram identificadas no experimento. |
|
|
|
_08,_edited.jpg){kind=link}