Desafios na Implementação da Inteligência Artificial nas Empresas
A segurança dos dados desponta como o principal obstáculo para a adoção da inteligência artificial (IA) nas empresas, aponta um relatório global da Hitachi Vantara. Segundo o estudo, a falta de estruturação de dados, governança e infraestrutura adequada são os maiores motivos de preocupação entre os executivos da companhia ao integrar tecnologias de IA nos negócios. Com a popularização da IA generativa, o risco à cibersegurança tem aumentado, especialmente diante da chegada dos agentes de IA, que podem agir com consequências imprevistas caso não sejam monitorados constantemente.
Shane Gibson, especialista técnico sênior para as Américas da Hitachi Vantara, explica que “a implementação de agentes traz novos riscos ao ambiente, pois eles podem executar ações com efeitos não intencionais se não forem acompanhados de perto. Além disso, há um grande mal-entendido sobre o funcionamento dessas ferramentas”.
Confiança Excessiva e Vulnerabilidades
O relatório revela que muitas organizações têm confiado demais nos resultados gerados pela IA, adotando soluções em ritmo acelerado e, por vezes, desnecessário. Essa pressa cria novas vulnerabilidades, especialmente porque cerca de 91% dos agentes ainda apresentam o fenômeno conhecido como “alucinação”, que são respostas incorretas ou fabricadas. Paralelamente, 76% dos dados corporativos permanecem não estruturados, justamente o tipo mais explorado pelas aplicações de IA.
Leia também: OpenAI lança GPT-6 Astra, o modelo mais avançado que promete revolucionar a inteligência artificial
Fonte: omanauense.com.br
Leia também: OpenAI lança GPT-6 Astra: o avanço que marca a era da Inteligência Artificial Geral
Fonte: olhardanoticia.com.br
No Brasil, a situação é diferente. O país está em um processo acelerado de digitalização, mas ainda com ambientes legados e sistemas heterogêneos. Executivos brasileiros são vistos como mais conservadores, adotando uma postura cautelosa diante das tecnologias de IA. Joshua Wick, líder global de riscos e compliance da Hitachi Vantara, comenta que “os líderes brasileiros preferem realizar uma análise detalhada antes de investir, refletindo uma apreensão em relação aos custos iniciais, com base nos estudos disponíveis até agora”.
Educação e Estruturação para Mitigar Riscos
Especialistas destacam que a diferença brasileira é positiva, pois reforça a necessidade de um uso moderado da IA, priorizando soluções tradicionais antes de recorrer à inteligência artificial. A capacitação dos usuários é apontada como essencial para que compreendam exatamente como a tecnologia funciona e quais são suas implicações. Shane Gibson enfatiza que “é fundamental definir claramente os objetivos da IA, entender os riscos envolvidos e evitar pressa na implementação. As organizações devem estar preparadas para realizar testes antecipados e garantir a segurança antes de colocar a tecnologia em produção”.
Cresce a Preocupação com Segurança e Governança
O relatório mostra que a segurança de dados tornou-se a maior preocupação das lideranças, com 56% delas apontando esse tema como o principal desafio na adoção da IA, um aumento de 19 pontos percentuais em relação ao ano anterior. Essa inquietação tem impacto direto na utilização dos modelos de linguagem de grande escala (LLMs). Ferramentas como ChatGPT e Copilot registraram uma queda na percepção de sucesso, de 95% para 81%.
Leia também: OpenAI lança GPT-6 Astra, modelo que marca avanço real na Inteligência Artificial Geral
Fonte: curitibainforma.com.br
Em contrapartida, cresce o investimento em governança e na qualidade dos dados. A proporção de empresas que aprimoram os dados usados no treinamento aumentou de 39% para 49%, enquanto a adoção de frameworks de governança avançou de 32% para 45%. Auditorias regulares de desempenho passaram de 36% para 44%, e o número de organizações sem estratégia para explicabilidade dos modelos caiu de 42% para 24%.
Governança Como Alicerce para a Inovação
Gibson ressalta que, inicialmente, a IA era vista como uma ferramenta útil e eficaz, mas, com o tempo, os desafios como alucinações e a falta de retorno financeiro passaram a evidenciar seus riscos para os negócios, uma vez que nem sempre os resultados são determinísticos. Apesar disso, ele e Wick concordam que governança e segurança não devem frear a inovação, mas sim permitir que a tecnologia seja utilizada em seu potencial máximo com segurança.
Para o futuro, Gibson prevê uma evolução onde haverá interfaces únicas capazes de entregar resultados solicitados de forma simples e eficiente. Contudo, para alcançar esse estágio, é imprescindível que as organizações se preparem estruturando seus dados e processos.
