home Sem categoria Os riscos da IA: como proteger os seus projetos?

Os riscos da IA: como proteger os seus projetos?

Muitas empresas e governos começaram a fazer investimentos em inteligência artificial rumo à transformação digital. O estado americano do Mississipi, por exemplo, tem a assistente pessoal MISSI, enquanto, no Brasil, o Bradesco disponibiliza os serviços cognitivos da BIA.

Mas como proteger tudo o que já foi feito caso a diretoria da empresa decida que mudar o foco das estratégias? Isso pode acontecer caso o CIO prometa demais e não consiga cumprir, por exemplo.

Existem três passos importantes para proteger o seu investimento em inteligência artificial: conhecer as capacidades da sua ferramenta, ter em mente que a IA não é como o cérebro humano e entender o preço de um erro. Saiba mais sobre esses tópicos a seguir!

Capacidades da IA: o que ela pode fazer atualmente?

Não é segredo que o objetivo de se desenvolver uma inteligência artificial é que ela possa ser tão boa ou melhor que o homem na execução das tarefas. A tecnologia pode de fato ter esse potencial, mas ainda tem muitas limitações para realizar atividades mais complexas.

No curso dos anos, a inteligência artificial evoluiu bastante, ainda mais se pensarmos que as primeiras máquinas traziam problemas de altos custos de manutenção e soluções rudimentares.

Hoje, há estudos que comparam a capacidade de inteligência próxima à de uma criança de seis anos. Nem por isso, deixa de ser tão impactante na sociedade. O deep learning permite que a tecnologia avance mais nessa frente, impactando vários setores, como na detecção de câncer, nos estudos do sistema solar e no setor comercial.

As ferramentas evoluem constantemente no aprendizado, realizando procedimentos cirúrgicos e aproximando as empresas do público, entre tantas aplicações possíveis.

Enquanto temos a inteligência artificial geral (AGI), que foca nas metas de longo prazo, outra ramificação começou a se destacar nesse cenário: a inteligência artificial estreita (ANI).

São aplicações que executam tarefas específicas em contextos limitados, até melhor que o próprio homem. Esses algoritmos são usados em ferramentas como os chatbots e os assistentes de voz, entre outros serviços cognitivos.

Máquina X Homem: a IA não é um cérebro humano

Se a IA pode ser comparada a uma criança de seis anos, não quer dizer que ela seja como um cérebro humano. Apesar da capacidade de aprendizado, ela tem aplicações mais específicas e ainda não pode realizar todas as atividades que nós desenvolvemos.

A adoção de IA e serviços cognitivos nos ciclos de transformação digital dos setores atualmente tem fins pragmáticos, éticos e, frequentemente, para gerar renda nas empresas. O problema é que, muitas vezes, as pessoas tendem a superestimar os efeitos de curto prazo e subestimar os de longo prazo.

No que se compara ao homem, as máquinas já podem expressar comunicação, emoções, capacidades intelectuais e comportamentos humanos, mas ainda não são capazes de suprir todas as expectativas.

Isso porque elas ainda não conseguem tomar decisões sozinhas em contextos mais amplos. O homem ainda precisa intervir em muitas ações, usando as ferramentas inteligentes apenas como guia, julgando o que realmente é válido para aplicar nas atividades e estratégias comerciais, por exemplo.

A tendência é investir na A para desenvolver inovações que se manterão firmes nas próximas décadas. Essa ramificação pode diminuir riscos das seguintes maneiras:

  • Engajando em um discurso público mais balanceado;
  • Reconhecendo as falhas da IA;
  • Gerenciando as expectativas dos clientes;
  • Desenvolvendo e implantando cuidadosamente aplicações IA para promover resultados confiáveis, igualitários e éticos.

Cuidados com a IA: quanto um erro pode custar?

Cuidado nunca é demais e, em se tratando de tecnologia, é importante saber como usá-la. Ela precisa ser aplicada no contexto certo para ter os melhores resultados e realmente mostrar valor na transformação digital da organização. Do contrário, a conta de uma aplicação errada eventualmente chegará.

Os riscos podem estar ligados tanto ao erro humano como ao fato de que a IA se limita aos dados com os quais foi treinada. A tecnologia ainda corre o risco de utilizar conceitos errados ou preconceitos conforme aprende, então é preciso saber como evitar esse contexto.

Os assistentes virtuais, por exemplo, podem ter erros de fala aqui e ali, interferindo na experiência completa do usuário. Conforme aprendem, eles conseguem assimilar conceitos de gírias e jargões, mas até que ponto isso é aceitável sem atrapalhar a usabilidade da ferramenta?

Mas o grande X da questão é que os erros da IA podem custar caro se não forem evitados, principalmente em situações em que o uso pode afetar vidas, como no caso da medicina. Isso incita um debate sobre até que ponto a tecnologia pode ter autonomia para funcionar sozinha.

Um exemplo polêmico foi o acidente com um carro autônomo do Uber, que estava em teste. O veículo causou a morte por atropelamento de uma pedestre nos Estados Unidos. Embora o Uber tenha sido inocentado, a situação colocou em dúvida o uso da inteligência artificial nos automóveis e diminuiu o entusiasmo pela novidade.

Mas o quão arriscado é para a sua empresa investir em transformação digital e incentivar a prática da IA? Essa tecnologia de fato ainda tem muito para evoluir, mas continua tendo relevância para o mercado. Erros sempre vão acontecer, seja pela máquina ou pelo próprio homem.

Se a sua equipe tiver noção e controle sobre como a inteligência artificial irá atuar nos negócios, não há por que temer a transformação digital. O cenário ideal é entender os riscos em cada contexto e buscar gatilhos para minimizá-los.

Como evitar que um projeto de IA se perca?

Para proteger o investimento aplicado em IA, novamente, vale a importância de entender os conceitos de como aplicá-la de modo a favorecer o ecossistema, mantendo-se atento aos passos citados nos tópicos acima.

É interessante sempre buscar validações sobre como os investimentos favorecem os objetivos da empresa e quais são os objetivos da tecnologia nas atividades das equipes.

O sucesso do projeto, por fim, depende muito da gestão. Os líderes precisam criar práticas de transparência sobre o uso das aplicações, tanto para a equipe quanto para o público. Isso inclui firmar um compromisso com a verdade, reconhecer que pode haver falhas e gerenciar as expectativas em cima das soluções.

Há uma tendência em supervalorizar as soluções inteligentes, quando elas estão ali justamente como as ferramentas que são. O papel é ajudar nos processos, mas a presença humana ainda é necessária para controlar e evitar os erros.

Nesse sentido, contar com uma empresa de tecnologia especializada para gerenciar os sistemas agrega muito valor. Empresas como a Cedro Technologies são especializadas na aplicação de serviços cognitivos, entendendo os riscos e sabendo como controlá-los.

Na Cedro, disponibilizamos ferramentas desenvolvidas para atender diversos setores do mercado. Um exemplo é o People, nossa plataforma omnichannel de chatbots.

Para saber mais sobre o People e os demais serviços cognitivos da Cedro, entre em contato com os nossos consultores e entenda como podemos ajudar na sua transformação digital com os menores riscos possíveis.

Gostou? Compartilhe:

Thiago Morais Felix Costa

Thiago Morais Felix Costa

Product Owner do PEOPLE na Cedro Technologies.