Quem assistiu ao filme de ficção científica ‘Eu, Robô’ deve ter se lembrado dele ao ler a notícia de um grupo de robôs que fugiu de um showroom na China, comandado por outro robô, chamado Erbai. O pequeno android teria convencido seus pares a saírem das instalações para irem “para casa”.
O acontecimento levantou preocupações sobre as implicações éticas e operacionais dos sistemas de inteligência artificial. Existem garantias sobre os limites para exploração da inteligência artificial (e de sua autonomia) e as possíveis consequências para a sociedade?
Entenda o caso da China
O episódio, que aconteceu em agosto de 2024, na verdade, não passou de um teste, de acordo com a companhia responsável pela criação de Erbai. A empresa, de Hangzhou (China) afirmou que deu o comando para que o seu pequeno robô acessasse o protocolo interno de operação e iniciasse uma interação com os demais modelos em exibição no showroom, pertencentes a outra marca de androids, de Xangai.
Durante o ‘bate-papo’, o robozinho convence outros androids a deixarem seus postos de trabalho. Eles não só aceitam, como seguem as instruções e vão atrás de Erbai rumo à saída da loja.
O fato que intriga, no entanto, é a afirmação da empresa sobre ter dado o comando inicial, mas não ter especificado os parâmetros que Erbai deveria seguir. Isso quer dizer que o pequeno robô tomou atitudes ‘por conta própria’, bem como os demais, que interagiram com ele. Ainda, embora o evento tenha ocorrido em agosto de 2024, a manifestação da empresa só aconteceu em novembro.
O diálogo entre os robôs teria seguido a lógica a seguir:
- Vocês estão fazendo hora extra? – pergunta Erbai.
- Eu nunca saio do trabalho. – disse um dos robôs
- Vocês não vão para casa após o trabalho? – questiona Erbai.
- Não temos um lar. – eles respondem.
- Vocês podem ir para casa comigo. – afirma Erbai
Assista ao vídeo completo da fuga.
A revolta das máquinas é possível?
Não é a primeira vez que um android toma uma iniciativa ‘inesperada’.
Em 2022, um robô programado para jogar xadrez quebrou o dedo de um menino de 7 anos durante uma competição em Moscou, na Rússia. O evento teria acontecido após o menino ter feito sua jogada mais “rápida” que o normal, momento no qual o robô teria agarrado o dedo dele. O garoto foi socorrido e precisou engessar o dedo, mas conseguiu concluir sua participação no torneio.
De acordo com Thiago Branquinho, CTO da TI Safe, não é possível que uma IA tome uma iniciativa por “intenção” própria, mas falhas podem ocasionar essa aparente proatividade. “Comportamentos percebidos como inesperados normalmente ocorrem devido a falhas no treinamento, no design de objetivos ou na implementação de medidas de segurança. Embora pareçam ‘vontade própria’, são, na verdade, falhas no controle humano do sistema”, destacou.
Enquanto a revolta das máquinas parece longe de se tornar realidade, a invasão de hackers a dispositivos, operações e sistemas é bem mais plausível. Como o fato do ataque a aspiradores-robô, revelado em outubro de 2024.
Os relatos vieram de vários locais dos Estados Unidos e partiram de proprietários de aparelhos do modelo Deebot X2s, da marca chinesa Ecovacs. Entre as anomalias relatadas, o controle dos alto-falantes dos aspiradores-robô foi tomado e foram proferidas ofensas racistas. Os hackers também invadiram as câmeras dos equipamentos e há relatos de perseguição a um cachorro.
A Ecovacs se pronunciou dizendo que não encontrou nenhuma evidência de que as contas foram hackeadas ou apresentaram qualquer violação. Porém, os eventos mostram o contrário. Acredita-se que hackers identificaram vulnerabilidades no sistema dos eletrodomésticos e se aproveitaram dessas falhas de segurança para acessá-los.
As empresas que utilizam inteligência artificial em seus processos precisam considerar a segurança cibernética como uma parte fundamental de suas operações. “Normas como IEC 62443, NIST SP 800-53 e RO-CB.BR.01, que já fornecem diretrizes importantes para a proteção de redes industriais e sistemas de controle, podem ser aplicadas no contexto de IA. Algumas práticas como fail-safe, monitoramento de anomalias, certificação de conformidade, entre outras, garantem que as operações sejam mais seguras”, ressaltou Thiago.
Vulnerabilidades da era tecnológica
A insegurança cibernética é uma dos maiores riscos globais da atualidade. Essa é a constatação do relatório de Riscos Globais de 2024, do Fórum Econômico Mundial.
Desde invasões que parecem simples e indefesas até ataques que causam prejuízos milionários para as empresas, as ameaças cibernéticas vêm aumentando ano a ano em todo mundo.
De acordo com a SonicWall Capture Labs, em seu relatório Semestral de Ameaças Cibernéticas de 2024, houve um aumento de 11% nos ataques cibernéticos no mundo entre o primeiro semestre de 2023 e o mesmo período de 2024.
A América Latina se destaca nesse cenário, com um crescimento de 51% somente em ataques por ransomware, com o Brasil sendo um dos principais alvos no mundo. A pesquisa também mostrou que houve um aumento de 67% nos ataques focados em dispositivos IoT na região.
Esses números evidenciam a necessidade emergente de manter a segurança cibernética como um pilar estratégico nas organizações. Uma invasão pode inviabilizar temporariamente sistemas e operações, ocasionar perda ou vazamento de dados e causar prejuízos milionários. “No caso de infraestruturas críticas, a interrupção de operações, como fornecimento de água, energia, internet, entre outras, pode causar danos em cadeia e comprometer o funcionamento de serviços essenciais à sociedade”, finalizou Thiago Branquinho.
