Inteligência Artificial Oculta e Subprocessadores Desconhecidos Desafiam Governança e Conformidade
Relatório revela que mais de 63% dos fornecedores de IA não revelam subprocessadores, complicando a conformidade regulatória global.
Relatório revela que mais de 63% dos fornecedores de IA não revelam subprocessadores, complicando a conformidade regulatória global.
Panorama do problema: a sombra da IA e subprocessadores ocultos
Com a crescente atenção global na expansão e amadurecimento dos programas de governança para inteligência artificial (IA), um novo relatório da empresa DataGrail revela que muitas companhias podem estar violando, sem saber, regras de conformidade relativas à diligência com fornecedores em diferentes jurisdições.
Lançado no fim de maio, o Privacy and IA Trends Report avaliou as práticas de proteção de dados de 2.400 fornecedores populares de softwares empresariais que anunciam capacidades em IA. A pesquisa apontou que 63,6% desses fornecedores não divulgam em suas avaliações a atividade de subprocessamento realizada por outros prestadores de serviços de IA – uma lacuna significativa nas informações fornecidas.
Além disso, o relatório identificou que 32,8% dos sistemas de IA admitiram processar dados sensíveis em níveis de risco alto ou realizar decisões automatizadas, o que eleva ainda mais a complexidade para as equipes de conformidade.
Desafios para empresas e reguladores
Daniel Barber, CEO e cofundador da DataGrail, comentou que as empresas tradicionalmente consideram as informações em acordos de processamento de dados como confiáveis, mas a ausência da divulgação completa dos subprocessadores torna essa confiança questionável. Esse problema ganha relevância com as exigências de transparência presentes em regulamentações emergentes, como a Lei de IA da União Europeia (União Europeia) e a Lei de Privacidade do Consumidor da Califórnia (CCPA).
"É preocupante que muitos fornecedores possam estar usando múltiplos subprocessadores sem informar completamente seus clientes", afirmou Barber, que ressaltou que a velocidade do desenvolvimento das tecnologias muitas vezes ultrapassa a atualização dos documentos legais e processos internos.
Martin Woodward, Diretor Jurídico Global da Randstad, destacou uma característica singular da IA que intensifica o desafio: enquanto relações tradicionais de TI tendem a ser um para um, no caso da IA, essa relação pode ser um para muitos, dada a complexidade e a multiplicidade de tecnologias envolvidas nos sistemas de IA contemporâneos.
Implicações legais e risco à privacidade dos consumidores
Vincent Rezzouk-Hammachi, sócio do escritório Bird & Bird especializado em proteção de dados, esclareceu que, sob o Regulamento Geral de Proteção de Dados (RGPD) europeu, fornecedores terceiros que realizam o processamento de dados geralmente se caracterizam como controladores de dados, assumindo responsabilidades legais importantes.
A falta de transparência sobre subprocessadores pode tornar mais difícil para as empresas cumprir direitos dos consumidores, como exclusão de dados e acesso às informações pessoais, além de expor fornecedores a penalidades em caso de fiscalização.
O risco também se estende para o uso interno das ferramentas de IA sem o devido controle – o chamado "shadow IA" – que representa a adoção não autorizada ou desconhecida de soluções de IA por colaboradores, aumentando a incidência de processos automatizados fora da supervisão adequada.
Estratégias para mitigar riscos e acompanhar a inovação
Para enfrentar esses desafios, especialistas apontam que políticas de controle de acesso rigorosas, treinamento contínuo em alfabetização de IA e definição clara das responsabilidades internas são fundamentais para conter o uso inadvertido de ferramentas fora do escopo autorizado.
Ainda assim, empresas maiores enfrentam dificuldades devido a processos consolidados e etapas rígidas de avaliação e contratação, que retardam a adoção ágil e segura de novas soluções. Já organizações menores tendem a ser mais flexíveis, incentivando experimentações controladas de IA para identificar oportunidades de aumento de eficiência.
Outro recurso recomendado são ferramentas de rastreamento capazes de detectar a presença de IA não autorizada na infraestrutura da organização, contribuindo para a diligência necessária na cadeia de fornecedores e subprocessadores, reduzindo riscos legais e operacionais.
Perspectivas futuras para governança e o cenário regulatório
À medida que legislações específicas sobre IA ganham força globalmente, como a Lei de IA da União Europeia que distingue entre provedores e implantadores de soluções, espera-se que a transparência e a supervisão na cadeia de processamento sejam demandadas com mais rigor, exigindo das empresas maior controle sobre as tecnologias que utilizam e seus parceiros.
Contudo, o ritmo acelerado das inovações tecnológicas seguirá pressionando equipes jurídicas e de segurança a atualizarem suas normas e acompanhar as mudanças, de modo a garantir tanto conformidade quanto a liberdade de inovar no uso da IA.
Assim, para as organizações brasileiras e globais, o desafio será equilibrar a inovação com uma governança robusta, transparente e alinhada aos direitos dos usuários, mitigando riscos de violação de privacidade e sanções regulatórias.
Informações editoriais
Fonte: IAPP.org
Tiago Oliveira
Responsável pela curadoria editorial da TECSOCIETY, com foco em tecnologia, inteligência artificial, segurança digital, automação e games para leitores brasileiros.
Ver perfil editorial