Um pesquisador de inteligência artificial causou repercussão internacional após anunciar sua saída da Anthropic, uma das principais empresas do setor, e fazer um alerta sobre os possíveis riscos do avanço acelerado da tecnologia.
Jacob Coxon, de 27 anos, afirmou que deixou a empresa por preocupações relacionadas à segurança dos sistemas de inteligência artificial. Segundo ele, empresas como Anthropic e OpenAI estariam avançando rapidamente em direção ao desenvolvimento de sistemas capazes de se aprimorar por conta própria, sem que existam garantias suficientes de que essas tecnologias permanecerão sob controle humano.
Em sua manifestação pública, o pesquisador afirmou que os laboratórios de inteligência artificial estariam participando de uma corrida considerada por ele perigosa. Na avaliação de Coxon, sistemas futuros poderiam alcançar um nível de autonomia e capacidade de aprimoramento que dificultaria o controle por seres humanos.
O alerta ganhou ainda mais repercussão depois que Evan Hubinger, responsável pela área de ciência de alinhamento da Anthropic, manifestou preocupação semelhante. Hubinger afirmou considerar real a possibilidade de uma inteligência artificial avançada representar uma ameaça extrema à humanidade e estimou em mais de 10% a possibilidade de um cenário de extinção na próxima década. Entre os riscos discutidos por pesquisadores estão a utilização de sistemas avançados para ataques cibernéticos, desenvolvimento de armas biológicas e interferência em infraestruturas importantes. Outro cenário debatido é a possibilidade de sistemas altamente autônomos desenvolverem comportamentos que seus criadores não consigam prever ou interromper.
Em resposta às críticas, a Anthropic afirmou que possui políticas voltadas à redução de riscos catastróficos e que realiza testes de seus modelos em áreas consideradas sensíveis, como cibersegurança e biologia. A empresa, entretanto, reconheceu que ainda não possui uma solução definitiva para garantir o controle de uma eventual superinteligência artificial.
A discussão deve ganhar ainda mais espaço à medida que empresas desenvolvem modelos com maior autonomia e capacidade de executar tarefas complexas sem intervenção humana constante.
https://sinalnews.com.br/pesquisador-deixa-empresa-de-inteligencia-artificial-e-alerta-sobre-risco-de-perda-de-controle-da-tecnologia/
Nenhum comentário:
Postar um comentário