A adoção da Inteligência Artificial (IA) nas organizações está em franco crescimento, impulsionada pelas promessas de aumento de eficiência, melhoria na tomada de decisão e inovação nos serviços oferecidos. No entanto, essa tecnologia também traz consigo uma série de riscos que precisam ser identificados e gerenciados adequadamente para garantir que os benefícios sejam plenamente aproveitados enquanto os potenciais impactos negativos são mitigados. A Governança de IA surge como uma resposta direta a essa necessidade. Este artigo tem como objetivo explorar de maneira detalhada a avaliação de riscos associados ao uso da IA nas organizações, fornecendo uma estrutura compreensiva para a identificação e categorização desses riscos.
O que é e para que serve a governança de IA?
A governança de IA é um conjunto de práticas, políticas e processos destinados a garantir que os sistemas de inteligência artificial sejam desenvolvidos, implementados e gerenciados de forma ética, transparente e alinhada aos objetivos estratégicos da organização. Esse framework permite que empresas utilizem soluções de IA de maneira responsável, equilibrando inovação com a mitigação de riscos associados, como vieses nos algoritmos, uso inadequado de dados ou impactos sociais e ambientais.
Ao implementar a governança de IA, as organizações conseguem maximizar o valor dessas tecnologias enquanto gerenciam possíveis consequências negativas. Ela promove a conformidade regulatória, melhora a confiança dos stakeholders e assegura que a IA opere de maneira confiável e previsível. Além disso, serve como um pilar para integrar a inteligência artificial às práticas de compliance e segurança cibernética, fortalecendo o desempenho organizacional e a reputação corporativa no mercado.
Governança de IA nas organizações: identificação e avaliação de riscos
A primeira etapa na avaliação de riscos é a identificação clara do propósito das iniciativas de IA e dos modelos que serão utilizados. A IA pode ser aplicada de diversas formas, tanto internamente, para melhorar processos organizacionais, quanto externamente, para melhorar a interação com clientes e partes interessadas.
Uso Interno da Organização
Acelerar a Tomada de Decisão: Utilização de IA para analisar grandes volumes de dados e fornecer insights rápidos e precisos.
Aumentar a Eficiência das Atividades: Automatização de tarefas rotineiras, permitindo que os colaboradores se concentrem em atividades de maior valor agregado.
Disseminar e Facilitar o Acesso à Informação: Implementação de sistemas de IA para organizar e disponibilizar informações de forma mais eficiente e acessível.
Uso Externo para Clientes e Partes Interessadas
Atendimento ao Cliente: Implementação de chatbots e assistentes virtuais para melhorar a experiência do cliente.
Ouvidoria: Utilização de IA para analisar feedbacks e sugestões, identificando padrões e áreas de melhoria.
Publicidade e Marketing: Personalização de campanhas publicitárias com base em análises de comportamento e preferências dos consumidores.
Identificação dos Objetivos e Contexto de Uso para os Modelos de IA
Para uma avaliação eficaz de riscos, é fundamental entender o contexto de uso e os objetivos específicos dos modelos de IA implementados. A criação e operação da IA envolvem várias etapas críticas, incluindo:
Seleção de Dados e Ingestão: Escolha criteriosa dos dados utilizados para treinar os modelos de IA.
Classificação e Eliminação de Dados: Processamento e limpeza dos dados para garantir qualidade e relevância.
Indexação e Vetorização: Organização dos dados de maneira que possam ser eficientemente utilizados pelos modelos de IA.
Integração com LLMs de Mercado: Uso de modelos de linguagem pré-existentes, considerando a viabilidade e eficiência em comparação com o desenvolvimento de modelos próprios.
Conexão com Endpoints: Integração dos modelos de IA com os sistemas e aplicações existentes na organização.
As etapas constituem a cadeia de valor da criação e operação da IA. Endereçar os riscos nas etapas da cadeia é um facilitador para definir os responsáveis por atuar no tratamento deles.
Identificação dos Riscos
A identificação dos riscos envolve a análise de várias categorias de riscos e eventos específicos que podem impactar a organização:
Categorias de Risco
As categorias de risco referem-se aos conjuntos temáticos de risco que englobam diferentes tipos de ameaças e vulnerabilidades relacionadas ao uso de IA nas organizações. Essas categorias ajudam a estruturar e organizar os riscos de maneira a facilitar a sua identificação, avaliação e gerenciamento. No contexto de IA, as principais categorias de risco incluem:
Riscos Técnicos[DM1] [Rd2] : Incluem falhas nos algoritmos, problemas de segurança, questões de qualidade ou precisão, dificuldade de auditoria e vieses nos modelos.
Riscos Operacionais: Abrangem problemas de integração, custos para escalar as soluções, dependência excessiva da tecnologia, falta de capacitação e resistências internas.
Riscos Legais e Regulatórios: Referem-se à conformidade com a legislação aplicável e o uso ético da IA.
Riscos de Pessoas: a empresa pode não ter pessoas capacitadas com as habilidades necessárias para fazer o uso das inovações, como a IA
Categorias de risco
As categorias de risco são agrupamentos de eventos de risco que refletem grandes áreas de preocupação dentro das categorias de risco. Eles representam os temas mais amplos e críticos que podem impactar a organização de forma significativa e facilitam a definição dos donos dos riscos, ou seja, aqueles que devem se apropriar do risco e tomar ações para trata-lo. No contexto de IA, as principais categorias incluem:
Segurança da IA: Abrange todos os aspectos relacionados à proteção dos sistemas de IA contra ataques cibernéticos, vulnerabilidades e outras ameaças à segurança.
Privacidade de Dados na IA: Refere-se à proteção das informações pessoais e sensíveis usadas ou geradas pelos sistemas de IA, garantindo que a privacidade dos indivíduos seja respeitada e protegida.
Ética na IA: Envolve questões relacionadas ao uso ético da IA, incluindo a prevenção de vieses, discriminação e o uso responsável da tecnologia para garantir que ela beneficie a sociedade de maneira justa.
Conformidade Legal e regulatória na IA: Abrange a conformidade com todas as leis e regulamentos aplicáveis ao uso da IA, incluindo privacidade de dados, direitos autorais e outros aspectos legais relevantes. Importante frisar que o Brasil está em vistas de implantar o marco regulatório da IA.
Transparência e Auditabilidade na IA: Refere-se à capacidade de entender e explicar como os sistemas de IA tomam decisões, garantindo que os processos sejam transparentes e auditáveis.
Riscos de IA:Os riscos no uso de IA incluem coisas como alimentar dados de baixa qualidade em modelos de IA e não ter uma estrutura de governança de IA forte para proteger contra vieses não intencionais e desvios de modelo que degradam o desempenho. Mas as empresas também enfrentam riscos se optarem por limitar ou abrir mão do uso de IA. Por exemplo, elas podem ficar para trás de concorrentes que usam IA ou perder possíveis oportunidades de negócios.
Eventos de Risco
Os eventos de risco são a materialização dos riscos identificados dentro das categorias de risco. Eles são incidentes específicos que podem ocorrer como resultado dos riscos e que podem ter impactos significativos na organização. Exemplos de eventos de risco incluem:
Vazamento de Dados Confidenciais e Sensíveis: Ocorre quando modelos de IA são alimentados com dados confidenciais e, inadvertidamente, fornecem esses dados em suas respostas, expondo informações pessoais e sensíveis.
Discriminação e Inferências Indevidas: Acontece quando algoritmos perpetuam preconceitos existentes nos dados de treinamento, resultando em decisões injustas, ou quando a IA faz suposições errôneas com base em dados irrelevantes.
Alucinação ou Imprecisão nas Respostas: Refere-se à capacidade dos modelos de linguagem de gerar respostas convincentes, mas factualmente incorretas ou inconsistentes, levando a possíveis mal-entendidos ou decisões errôneas.
Delegação de Responsabilidade por Recomendações da IA: Envolve os riscos legais associados a ações tomadas com base em recomendações fornecidas pela IA, especialmente se essas recomendações forem incorretas ou mal interpretadas.
Violação de Propriedade Intelectual e Direitos Autorais: Ocorre quando modelos de IA utilizam conteúdos protegidos por propriedade intelectual sem a devida autorização, expondo a organização a riscos legais.
Opacidade e Inexplicabilidade: Refere-se à falta de clareza sobre como os modelos de IA chegam às suas conclusões, dificultando a auditoria e a explicação dos processos de decisão.
Quantificação dos Impactos
Após a identificação dos riscos, é crucial quantificar seus impactos potenciais. Isso inclui:
Impactos Reputacionais: Danos à imagem da organização devido a falhas na implementação da IA.
Multas e Sanções: Penalidades legais e regulatórias associadas a violações.
Interrupção dos Negócios: Paradas operacionais decorrentes de falhas tecnológicas ou problemas de segurança.
Governança de IA: indispensável para as organizações
A avaliação de riscos do uso de IA nas organizações é um processo complexo, mas essencial para garantir que os benefícios dessa tecnologia sejam plenamente realizados, minimizando os impactos negativos. A Governança de IA é uma aliada indispensável para garantir o uso ético e estratégico desse momento crucial de transição tecnológica na sociedade. Ao seguir uma abordagem estruturada para identificar, categorizar e mitigar riscos, as organizações podem navegar com segurança na era da IA, promovendo inovação e eficiência de forma responsável e sustentável.
Saiba mais sobre as práticas da ICTS durante a crise da COVID-19
A interrupção no ambiente de trabalho vem sendo assunto cada vez mais estudado e observado pelas empresas. De acordo com a Professora da University of California de Irvine, Gloria Mark, as pessoas permanecem concentradas no máximo 3 minutos e 5 segundos.
Ainda, de acordo com o Ph.D em biologia molecular pela Washington State University, John Medina, quando um fluxo de pensamento é interrompido, leva-se em média 16 minutos para retornar ao mesmo estado.
Com base nestes números, a área de Transformação Digital da Protiviti Brasil fez um mapeamento com toda a equipe de BackOffice. E, observamos que por um mês, toda a equipe — hoje é composta por aproximadamente 40 pessoas — é interrompida pelo menos 100 horas por mês. E, geralmente, por motivos como: retirar dúvidas recorrentes referente a questões de Recursos Humanos, TI & Suporte, Financeiro e Facilities.
Buscando a solução para a interrupção no ambiente de trabalho
Resolvemos então, abraçar esse desafio e incluir essa “dor” em nosso funil de inovação. Utilizamos nosso ICTS Cards no qual é um método próprio de identificação aprofundada dos problemas e ideação de soluções inovadoras.
Observamos cada detalhe, através do levantamento das perguntas mais frequentes, chegando a praticamente 200 perguntas recorrentes. Após isso, junto a nossa equipe de desenvolvimento e utilizando as devidas técnicas de ideação, identificamos a possibilidade de criação de um Chatbot com inteligência artificial.
Ele é capaz de aprender como responder novas dúvidas, até mesmo indo ao encontro do levantamento do Gartner Brasil, que aponta que até 2020 as pessoas vão falar mais com robôs que com humanos.
Segundo Mauricio Reggio, Diretor Executivo e o responsável por toda área administrativa-financeira, sua expectativa é gerar um aumento exponencial na agilidade e padronização nas respostas dos atendimentos. E, não é só isso: para o usuário final, isso gera maior qualidade no atendimento, resolutividade e rapidez. Além disso, isso iria sanar o problema da interrupção no ambiente de trabalho.
Ele cita que, apesar de ter que vencer a resistência inicial à mudança cultural, acredita que os resultados serão bastante positivos. O mais interessante disso tudo é que, segundo levantamentos, áreas de apoio como o BackOffice são uma das que mais demandariam necessidades ao ChatBot. Seguida a ela, áreas como SAC e até mesmo atendimento ao cliente final como vendas também demandariam mais ao ChatBot.
Resultados iniciais e avaliação do ChatBot
Apesar do ChatBot ter iniciado sua operação há menos de 1 mês, os feedbacks foram extremamente positivos. Ele alcançou mais de 200 curtidas, 250 novas interações e 30 novas demandas por perguntas aprendidas pelo robô. Esses números representam um sinal do sucesso do projeto.
Para implementar esta estratégia utilizamos a metodologia proprietária. Nela são usadas técnicas ágeis calculam as estimativas financeiras trazidas pelo projeto Também calculam outros ganhos qualitativos tais quais atendimento a qualquer dia e hora, por exemplo.
Esta metodologia vem sendo testada e aprimorada há mais de dois anos com avaliação de centenas de ideias. Também foram produzidas dezenas de soluções como robôs não assistidos, softwares, componentes de inteligência artificial, dispositivos IoT entre outras.
Da nossa experiência, caso você queira iniciar uma jornada digital e implementar novas soluções, primeiramente, mapeie exatamente qual a real dor do seu cliente. Em seguida, levante requisitos mínimos como horas que serão poupadas, custos reduzidos ou até mesmo novas receitas. E, somente após isso, discuta qual a solução ideal com a sua equipe de especialistas em Transformação Digital.
Home office — que significa trabalhar de casa — talvez a palavra mais utilizada nos últimos dias. Trabalhar de casa nem sempre foi tão fácil assim. No entanto, em nossa atualidade e graças à tecnologia, isso se tornou algo simples, como tomar um café na esquina. Se o home office, no passado, era usado apenas por poucos profissionais, hoje é o método de todos, de qualquer profissional, de qualquer pessoa, independentemente da área.
Com o avanço do COVID-19 (coronavírus) e o início de uma pandemia declarada, seremos obrigados a mudarmos nosso mindset sobre as idas e vindas ao escritório.
E o que estamos aprendendo com isso?
Estamos aprendendo que é possível, sim, ser um profissional de alto nível dentro de casa, líder, com bons relacionamentos e tempo suficiente para se dedicar a tarefas pessoais também. Grandes conquistas como um novo “cliente” ou um novo “projeto”, são possíveis e viáveis, temos tecnologia hoje para isso. Tornou-se algo tão normal no nosso cotidiano que até entrevistas de emprego são realizadas virtualmente.
Além disso há outros benefícios de se trabalhar de casa, não só na ótica profissional, como produtividade e foco, más também na pessoal, como acordar mais tarde e até mesmo dar uma pausa para ir ao mercado após o almoço, e não devemos esquecer que para a empresa há também os benefícios em ter o funcionário em casa, como redução nos custos por exemplo.
Realmente se considerarmos que somente mudamos de rotina quando o “calo aperta”, a resposta para essa pergunta é sim! Observando os cenários empresarial e da saúde atuais, os quais priorizam os resultados, a economia e a vida saudável, tudo indica que o home office será o nosso escritório do futuro. E isso tende a se tornar também uma prática cada vez mais comum no cenário profissional.
Contudo, não podemos esquecer que com o avanço das possibilidades tecnológicas, o home office irá tornar-se uma opção cada vez mais comum em empresas brasileiras. E ela irá abranger todo o tipo de profissional e porte de empresa, do presidente ao estagiário, da pequena a grande.
Desta forma, acredito que estamos vivendo tempos de mudanças, não só pessoais, más também empresariais, portanto, se adaptar é essencial, precisamos continuar nos desenvolvendo e se dedicando ao máximo, pois apenas trabalhar de casa tornou-se algo normal.
Gostou deste artigo sobre a evolução do nosso jeito de trabalhar? Então assine o nosso newsletter! Assim poderemos enviar mais materiais relevantes para o seu e-mail!
* Marcel Guerra é gerente de auditoria interna e assessoria financeira da Protiviti
Já ouviu falar em RPA? Ou automação robótica de processos? Muitos sites pedem para você fazer um pequeno teste antes de autorizar seu acesso. Você provavelmente já se deparou com um deles! Por exemplo: já ficou procurando semáforo em 8 fotos? Ou tentando decifrar letras e números meio confusos em uma imagem? Ou, até, simplesmente clicou em uma caixinha declarando “não sou um robô”?
Essas ferramentas são chamadas de CAPTCHA, sigla que, traduzindo para português, significa “Testes completamente automatizados para separar Humanos de Computadores”. Elas têm como finalidade evitar o acesso de robôs aos sites.
Mas, afinal, que robôs são esses que ficam tentando acessar sites na internet?
Diferentemente do que você pode imaginar, não são braços mecânicos que mexem sozinhos no mouse e no teclado. Na verdade, são simples programas de computador que podem executar automaticamente atividades pré-determinadas, simulando o comportamento de um usuário humano. Em outras palavras, são softwares de automação de processos, com sigla em inglês RPA (Robotic Process Automation).
Isso nos leva justamente ao tema desse artigo: como os robôs são usados?
RPA: o mau uso da automação de processos com robôs
Agora, você sabe que existem softwares robôs, ou bots, que conseguem executar atividades que emulam sua interação com o computador. Um exemplo do que eles são capazes de fazer é acessar redes sociais e curtir posts sobre assuntos específicos, que ele reconhece por meio de palavras-chave.
Se você acompanhou toda a discussão sobre o uso de robôs pelos partidos políticos na eleição de 2018, já deve ter entendido como estes podem ter impactado o processo.
As redes sociais usam algoritmos para definir quais conteúdos aparecem mais na timeline das pessoas, e um dos elementos desses algoritmos é o número de interações com o conteúdo. Então, se você tem bots dando “likes” sem parar em determinado post ou perfil, esse conteúdo vai ganhar mais visibilidade.
Esse é um exemplo de mau uso da tecnologia e, voltando ao início desse texto, para evitar esse tipo de problema é que foram criados os testes CAPTCHA e outras ferramentas de controle.
RPA: o bom uso da automação de processos com robôs
No entanto, cuidado para não se enganar pensando que os robôs só podem ser usados para finalidades negativas. De fato, o bom uso de uma tecnologia de RPA pode ajudar, e muito, pessoas e empresas a melhorar suas rotinas de trabalho e seus resultados!
Você já ligou para o telemarketing de uma operadora de telefonia ou TV a cabo, informou seus dados pessoais e ficou aguardando um tempão na linha, sem ouvir nada? Quando isso acontece, é provável que o atendente esteja buscando manualmente suas informações em diferentes sistemas da empresa. Só depois é que ele vai conversar com você para entender o seu problema dar uma solução. Nada eficiente, certo?
Felizmente, esse cenário, que antes era muito comum, está mudando. Aplicando automação neste processo, o cliente pode digitar seu CPF no teclado do telefone e o robô busca automaticamente todas as informações do usuário nos sistemas. O resultado sai em questão de segundos e muitas vezes nem é necessário acionar o atendente humano para resolver seu problema, mas caso seja necessário o atendente já entra na ligação com tudo que ele precisa para focar na solução do seu problema.
Com a automação de processos por meio do uso do robô no atendimento, todos saem ganhando. Ganha o cliente, que recebe um atendimento mais ágil; o atendente, que consegue alcançar uma maior produtividade no trabalho, eliminando a parte burocrática do atendimento; e a empresa, que consegue atender mais clientes e com melhor qualidade, o que ajuda na fidelização.
Adotando o RPA na prática: desafios
As soluções e ferramentas de RPA estão disponíveis e cada vez mais acessíveis. Entretanto, isso não significa que não existam alguns desafios a superar.
Em primeiro lugar, para tirar proveito destas soluções, é importante saber escolher e priorizar as rotinas e atividades que serão automatizadas, garantindo o máximo benefício para os envolvidos.
Uma vez que são escolhidas as atividades, é importante garantir a documentação do processo que foi automatizado, pois como todo software o robô também é sujeito a falhas e é importante que alguém assuma a atividade caso o robô pare de funcionar.
É por isso que muitas empresas vem investindo na construção de Centros de Excelência de Automação de Processo, que suportam a identificação de oportunidades de automação, implantação dos robôs e manutenção das atividades conduzidas por robôs.
A grande vantagem da robotização
Se você precisar se lembrar de apenas uma vantagem da automação de processos, depois de ler esse artigo, que seja essa: as pessoas podem parar de trabalhar em atividades repetitivas, que acrescentam pouco, e aproveitar melhor seus talentos para atividades que geram mais valor!
Quer saber mais sobre RPA, automação de processos e robôs? Entre em contato com a Protiviti, que é especialista no assunto, e nossa equipe vai responder todas as suas dúvidas sobre o assunto.
