Inteligência Artificial: desafios e necessidades de regulamentação

André Fernandes (*)

Estamos vivendo um período crucial no desenvolvimento e aplicação da Inteligência Artificial (IA). A discussão sobre os próximos passos dessa tecnologia é constante, especialmente em relação à prestação de serviços, ao atendimento ao cliente e às finanças. Embora a utilização massiva de dados tenha um enorme potencial, também levanta preocupações significativas.

Portanto, a regulamentação da IA é um tema sensível e necessário. As empresas que desenvolvem soluções de IA no Brasil e em todo o mundo devem estar conscientes das responsabilidades que acompanham essa inovação.

A IA é tão eficaz quanto os dados que utiliza para aprender. Portanto, do ponto de vista profissional e empresarial, é crucial que essas informações sejam analisadas e utilizadas de maneira segura, evitando que a IA produza informações falsas ou imprecisas, também conhecidas como alucinações.

Além disso, é fundamental que o conteúdo utilizado para alimentar a IA seja validado e livre de vieses, para evitar situações indesejadas e/ou inadequadas. A regulamentação deve garantir que as empresas utilizem conteúdos válidos e relevantes, limitados a fontes confiáveis (como artigos, bases de conhecimento, entre outros), impedindo que a IA se conecte a fontes não verificadas na internet. A curadoria dos dados é essencial não apenas para garantir a precisão, mas também para definir o alcance desses dados.

Por exemplo, se uma IA é incapaz de encontrar uma informação específica na internet, ela não deve inventar uma resposta apenas para satisfazer o usuário. Isso é vital no contexto empresarial, onde a precisão e a confiabilidade das informações são cruciais. Embora algum tipo de regulamentação seja necessário, é igualmente importante que não impeça a inovação.

Regulamentações excessivas que limitem o uso de dados ou imponham restrições rigorosas à curadoria podem inviabilizar o uso da IA. A inteligência artificial é um diferencial importante na jornada do cliente, permitindo que as empresas forneçam informações de maneira mais inteligível e eficiente. Na prática, a IA pode transformar a experiência do cliente ao oferecer informações de maneira mais acessível.

Em vez de apresentar um conjunto de artigos para que o cliente leia e compare, a IA pode fornecer um resumo claro e direto das informações relevantes. Por exemplo, ao buscar comparações entre cartões de crédito, a IA pode apresentar um texto detalhado das diferenças, em vez de uma tabela complexa. Um dos grandes desafios da IA é traduzir informações técnicas em uma linguagem que seja facilmente compreendida pelo cliente.

A tecnologia deve ser treinada para consumir esses conteúdos e traduzi-los de forma que qualquer pessoa possa entender. Isso exige que os modelos de IA estejam alinhados com o tipo de serviço que estão destinados a prover. Não faz sentido treinar uma IA em atendimento ao cliente se o objetivo é utilizá-la em suporte técnico. O desenvolvimento e a implementação da IA são inevitáveis e extremamente benéficos para a sociedade.

No entanto, a regulamentação precisa encontrar um equilíbrio entre garantir a segurança e a ética, sem sufocar a inovação. A IA pode revolucionar nossa interação com tecnologias e informações, desde que apoiada por dados robustos e regulamentação apropriada. O futuro da IA depende da nossa capacidade de gerenciar esses desafios de maneira responsável e inovadora.

(*) – Diretor de Pré-Vendas da NIC