Um dos cofundadores de uma das maiores empresas de IA do mundo afirmou que um “botão de desligamento” da inteligência artificial, que possa ser verificado de forma independente, talvez seja obrigatório para as empresas.

Jack Clark, um dos sete fundadores da Anthropic, disse que uma forma de desligar completamente os mecanismos de IA caso eles se tornem muito perigosos é algo que a sociedade “talvez queira regulamentar”.

Clark afirmou que “a maioria dos laboratórios tem maneiras diferentes de desligar os equipamentos”, incluindo a Anthropic, mas disse que os legisladores podem precisar impor a existência de uma dessas maneiras.

O rápido desenvolvimento da IA e os receios sobre os riscos que a tecnologia representa para a humanidade foram colocados em evidência por uma série de alertas de executivos e funcionários de empresas de IA.

Ler na integra: BBC Brasil

China reforça regras

lertas feitos por pesquisadores da empresa americana de inteligência artificial (IA) Anthropic sobre a possibilidade de modelos avançados escaparem ao controle humano e, em cenários extremos, representarem uma ameaça à própria humanidade ganharam destaque na China, onde formuladores de políticas públicas vêm se preparando para lidar com riscos semelhantes.

Apesar da corrida para desenvolver sistemas cada vez mais poderosos, marcos regulatórios e declarações oficiais de Pequim mostram que as autoridades chinesas consideram suficientemente séria a possibilidade de a IA avançada escapar à supervisão humana para incorporá-la aos seus planejamentos de segurança.

Ler na íntegra: DW Brasil