A decisão de Geoffrey Hinton de deixar o Google e expressar publicamente suas preocupações sobre os riscos da IA gerou um grande debate e destacou a importância de enfrentar os desafios éticos e sociais associados a essa tecnologia.

Isso tem vários significados para o futuro da Inteligência Artificial.

Por um lado, um maior escrutínio: a renúncia de Hinton aumentou o escrutínio público sobre o desenvolvimento e uso da IA, o que pode levar a uma maior regulamentação e supervisão. Algo disso já pode ser observado na preocupação europeia com a regulamentação da matéria.

Por outro lado, provocou um profundo debate sobre os riscos: a decisão de Hinton impulsionou uma discussão mais ampla sobre os riscos potenciais da Inteligência Artificial, como a perda de empregos, a disseminação de desinformação e o desenvolvimento de armas autônomas.

Por fim, sem intenção de esgotar o tema, abre oportunidades para a pesquisa ética: a renúncia de Hinton pode abrir novas possibilidades para a pesquisa ética em IA, com um maior foco no desenvolvimento de sistemas seguros, transparentes e benéficos para a sociedade.

Hinton e suas contribuições para os elementos éticos da inteligência artificial

É importante analisar a trajetória de Hinton, recém-premiado com o Prêmio Nobel de Física 2024, pois há um conjunto de elementos que fornecem pistas para compreender seu pensamento, que, aliás, não é recente, mas sim diretrizes que ele vem desenvolvendo há muito tempo, tanto quanto dura sua pesquisa em inteligência artificial.

Em primeiro lugar, suas reflexões sobre a importância da ética na IA: Hinton tem sido um defensor da ética na IA e alertou sobre os riscos potenciais dessa tecnologia. Seu exemplo nos lembra a importância de considerar as implicações sociais e éticas de nossas pesquisas.

Em segundo lugar, a necessidade de colaboração interdisciplinar: o trabalho de Hinton demonstrou a importância da colaboração entre diferentes disciplinas, como a informática, a psicologia e a filosofia, para enfrentar os desafios complexos colocados pela IA.

Por fim, o papel dos pesquisadores na sociedade: os pesquisadores em IA desempenham um papel crucial na configuração do futuro da tecnologia. É essencial que os cientistas estejam conscientes das implicações de seu trabalho e se comprometam a desenvolver tecnologias benéficas para a sociedade.

Hinton recentemente voltou a expressar preocupações significativas sobre o rápido avanço da inteligência artificial. Entre suas principais objeções, podem ser destacadas:

• A perda de controle. Uma das maiores preocupações de Hinton é a possibilidade de que a inteligência artificial supere a inteligência humana e se torne incontrolável. Ele teme que os sistemas de IA tomem decisões desalinhadas com os valores humanos, levando a consequências imprevistas e potencialmente perigosas.
• A desinformação em larga escala. Hinton alertou sobre o potencial da IA para gerar e espalhar desinformação em grande escala. Modelos de linguagem como o ChatGPT podem produzir textos altamente convincentes, mas falsos, o que poderia minar a confiança nas instituições e na informação em geral.
• O desemprego em massa. Assim como outros especialistas, Hinton expressou preocupação com o impacto da IA no mercado de trabalho. Ele teme que a automação de tarefas cada vez mais complexas possa levar ao desemprego em massa e ao aumento da desigualdade econômica.
• O desenvolvimento de armas autônomas. Ele também alertou sobre os perigos do desenvolvimento de armas autônomas, ou seja, sistemas de armamento que podem selecionar e atacar alvos sem intervenção humana. Essas armas poderiam desencadear uma nova corrida armamentista e aumentar o risco de conflitos militares.

Por que a renúncia de Hinton ao Google é tão significativa?

A renúncia de Hinton ao Google teve um grande impacto na comunidade da inteligência artificial. Sua decisão de deixar uma das empresas líderes no desenvolvimento dessa tecnologia e expressar publicamente suas preocupações destacou a necessidade de enfrentar os desafios éticos e sociais associados à IA.

A renúncia abriu um debate crucial sobre o futuro da inteligência artificial. É provável que vejamos um maior escrutínio público sobre o desenvolvimento e uso dessa tecnologia, bem como uma crescente pressão para estabelecer normas e regulamentações internacionais que garantam seu desenvolvimento seguro e benéfico para a humanidade.

É importante destacar que:

• Hinton no se opone a la investigación en inteligencia artificial, sino que aboga por un desarrollo más responsable y ético de esta tecnología.
• La comunidad científica y tecnológica está trabajando en el desarrollo de herramientas y técnicas para mitigar los riesgos asociados con la IA, como la alineación de valores, la transparencia y la explicabilidad de los modelos.
• El futuro de la inteligencia artificial dependerá de las decisiones que tomemos como sociedad. Es fundamental fomentar un debate abierto y constructivo sobre los beneficios y riesgos de esta tecnología, y trabajar juntos para garantizar que se utilice para el bien de la humanidad.

Uma visão final:

Geoffrey Hinton já era pessimista em relação à IA antes de ganhar o Prêmio Nobel. Agora, ele está ainda mais. Ele acredita que, em 20 anos ou menos, a IA superará a inteligência humana e pede que as empresas dediquem uma parte de seus recursos computacionais para evitar os riscos desse futuro.

Em uma das primeiras entrevistas concedidas após receber o Nobel, Hinton voltou a alertar sobre a ameaça existencial que, para ele, a IA representa. Uma ameaça que pode chegar ainda antes do que ele imaginava há pouco tempo.

Ele já havia exposto sua visão sobre os riscos que enfrentamos com a inteligência artificial, mas, com o passar do tempo, vê essa “ameaça existencial” como ainda mais iminente. Até pouco tempo atrás, ele acreditava que o risco estava muito distante, que a ameaça só surgiria em 100 anos, talvez 50, e que haveria tempo para enfrentá-la. “Agora, acho bastante provável que, em algum momento nos próximos 20 anos, as IAs se tornem mais inteligentes que nós, e realmente precisamos nos preocupar com o que acontecerá depois.”

Precisamos manter o controle. Hinton explica que é necessário dedicar muito mais recursos para garantir que os seres humanos mantenham o controle sobre o desenvolvimento e a operação da inteligência artificial. No entanto, ele ressalta que os governos não possuem os recursos necessários para isso: são as grandes empresas que os possuem.

Além disso, ele enfatiza que não se trata de dedicar uma porcentagem da receita, pois isso pode ser confuso e enganoso devido à forma como as empresas divulgam seus ganhos. Em vez disso, elas deveriam alocar uma porcentagem de sua capacidade computacional.

Uma em cada quatro GPUs deveria ser dedicada aos riscos. Para Hinton, esse percentual deveria ser de 33%: um terço dos recursos computacionais de empresas como Microsoft, Google, Amazon e Meta deveria ser direcionado para pesquisas sobre como evitar que a IA se torne uma ameaça para a humanidade. No entanto, ele se conformaria se pelo menos 25% desses recursos fossem usados para esse propósito.

Outros especialistas, como LeCun, criticam essa visão pessimista.

Yann LeCun, chefe de IA da Meta e uma das grandes vozes da área, tem uma visão muito diferente do futuro da inteligência artificial. Em uma entrevista recente ao The Wall Street Journal, LeCun afirmou que os alertas de Hinton são “ridículos”. Para ele, a IA tem muito potencial, mas, atualmente, a IA generativa ainda é extremamente limitada e não conseguirá igualar a inteligência humana.

Por enquanto, Hinton, que saiu do Google para “falar com liberdade”, parece ter mais credibilidade do que LeCun, que está diretamente envolvido no desenvolvimento da inteligência artificial. Talvez isso explique o tom crítico de LeCun em relação ao seu antigo mentor.