De Victoria Krakovna, Laurent Orseau, Richard Ngo, Miljan Martic e Shane Legg. 15 de outubro de 2020. Resumo Projetar funções de recompensa é difícil: o projetista precisa especificar o que fazer (o que significa completar a tarefa), assim como o que não fazer (efeitos colaterais que devem ser evitados durante a conclusão da tarefa). Para […] O post Evitando Efeitos Colaterais Considerando Tarefas Futuras apareceu primeiro em 80.000 Horas: Como fazer a diferença com sua carreira.| 80.000 Horas: Como fazer a diferença com sua carreira
De Charlie Rogers-Smith, com pequenas atualizações de Adam Jones (publicado em 5 de abril de 2024) 0. Prefácio Este guia foi escrito para pessoas que estão considerando trabalhar diretamente no alinhamento técnico da IA. Espero que seja mais útil para as pessoas que ainda não estão trabalhando no alinhamento e para as pessoas que já estão familiarizadas […] O post Guia de carreiras de alinhamento apareceu primeiro em 80.000 Horas: Como fazer a diferença com sua carreira.| 80.000 Horas: Como fazer a diferença com sua carreira
De Surbhi B, Mo Putera, varun_agr, AmAristizabal. Dez. de 2022 Resumo executivo Pessoas de países de renda baixa e média (PRBMs)1 que se envolvem com o AE geralmente descobrem que os conselhos de carreira existentes no AE não abordam várias questões e desafios que surgem com frequência. Este post tenta preencher essa lacuna compartilhando os […] O post Guia de Carreira do AE para Pessoas de Países de Renda Baixa e Média apareceu primeiro em 80.000 Horas: Como fazer a diferença com ...| 80.000 Horas: Como fazer a diferença com sua carreira
De Jess Whittlestone e Jack Clark1. 31 de agosto de 2021. Sumário executivo Delineamos uma proposta para melhorar a governança da inteligência artificial (IA) por meio do investimento na capacidade do governo para medir e monitorar sistematicamente as capacidades e impactos dos sistemas de IA. O problema. Os governos enfrentam uma série de desafios de […] O post Porque e Como os Governos Devem Monitorar o Desenvolvimento de IA apareceu primeiro em 80.000 Horas: Como fazer a diferença c...| 80.000 Horas: Como fazer a diferença com sua carreira
De Sophie-Charlotte Fischer, Jade Leung, Markus Anderljung, Cullen O’Keefe, Stefan Torges, Saif M. Khan, Ben Garfinkel e Allan Dafoe1. 16 de março de 2021. Resumo O governo dos EUA (GEUA) tem demonstrado um interesse crescente nas implicações de segurança nacional da inteligência artificial (IA). Neste relatório, perguntamos: dada a preocupação com a segurança nacional, como […] O post Alavancas da Política da IA: uma Resenha das Ferramentas do Governo dos EUA para Moldar a Pesq...| 80.000 Horas: Como fazer a diferença com sua carreira
De Allan Dafoe. 15 de setembro 2020. A governança da IA diz respeito à forma como a humanidade pode navegar melhor na transição para um mundo com sistemas de IA avançados1. Relaciona-se com a forma como as decisões são tomadas sobre a IA2 e quais instituições e arranjos ajudariam essas decisões a serem bem tomadas. […] O post Governança da IA: Oportunidade e Teoria do Impacto apareceu primeiro em 80.000 Horas: Como fazer a diferença com sua carreira.| 80.000 Horas: Como fazer a diferença com sua carreira
De Nelson Elhage, Tristan Hume, Catherine Olsson, Nicholas Schiefer, Tom Henighan, Shauna Kravec, Zac Hatfield-Dodds, Robert Lasenby, Dawn Drain, Carol Chen, Roger Grosse, Sam McCandlish, Jared Kaplan, Dario Amodei, Martin Wattenberg, Christopher Olah. 14 de setembro de 2022. Seria muito conveniente se os neurônios individuais das redes neurais artificiais correspondessem a características claramente interpretáveis da entrada. Por exemplo, em um classificador “ideal” do I...| 80.000 Horas: Como fazer a diferença com sua carreira
De Chris Olah, Nick Cammarata, Ludwig Schubert, Gabriel Goh, Michael Petrov e Shan Carter. 10 de março de 2020. Estudando as conexões entre os neurônios, podemos descobrir algoritmos significativos nos pesos das redes neurais. Muitos pontos de transição importantes na história da ciência foram momentos em que a ciência “ampliou”. Nestes pontos, desenvolvemos uma visualização […] O post Ampliando: uma Introdução aos Circuitos apareceu primeiro em 80.000 Horas: Como fazer a di...| 80.000 Horas: Como fazer a diferença com sua carreira
De Stephen Casper, Dylan Hadfield-Menell, Gabriel Kreiman. 11 de setembro de 2023. Resumo A literatura sobre ataques adversários em visão computacional geralmente se concentra em perturbações ao nível dos pixels. Elas tendem a ser muito difíceis de interpretar. Trabalhos recentes que manipulam as representações latentes dos geradores de imagens para criar perturbações adversárias “ao nível […] O post Adversários Resilientes ao Nível das Características são Ferramentas de I...| 80.000 Horas: Como fazer a diferença com sua carreira
De Geoffrey Irving, Paul Christiano e Dario Amodei. 22 de outubro 2018. Resumo Para tornar os sistemas de IA amplamente úteis para tarefas desafiadoras do mundo real, precisamos que eles aprendam objetivos e preferências humanas complexas. Uma abordagem para especificar objetivos complexos pede aos humanos que julguem durante o treinamento quais comportamentos do agente são […] O post Segurança da IA via Debate apareceu primeiro em 80.000 Horas: Como fazer a diferença com sua carreira.| 80.000 Horas: Como fazer a diferença com sua carreira
Acesse o 80.000 horas e conte com nosso apoio para construir uma carreira que faça a diferença. Acompanhe nossos conteúdos!| 80.000 Horas: Como fazer a diferença com sua carreira
[Esta é uma carta aberta publicada em março deste ano pelo Future of Life Institute, uma das principais organizações no mundo focadas na diminuição de riscos catastróficos globais e existenciais. No momento (outubro de 2023), ela possui mais de 30 mil assinaturas, incluindo as de Yoshua Bengio, Stuart Russell, Elon Musk, Steve Wozniak e Yuval […]| 80.000 Horas: Como fazer a diferença com sua carreira