Princípios de ética em inteligência artificial

Para quem não sabe, os Estados Unidos possuem um site em que mostram as principais áreas de atuação do que chamam de “Comunidade de Inteligência” (“IC”, de “Intelligence Community” em inglês). E um item interessante disponível em seu website são os Princípios de Ética em Inteligência Artificial.

Os Princípios de Ética em Inteligência Artificial para a Comunidade de Inteligência destinam-se a orientar o pessoal sobre se e como desenvolver e usar a IA, para incluir o aprendizado de máquina, na promoção da missão do IC.

Os Princípios de ética em inteligência artificial são os seguintes:

• Respeite a Lei e Aja com Integridade: Empregaremos a IA de uma maneira que respeite a dignidade humana, os direitos e as liberdades. Nosso uso da IA estará em total conformidade com as autoridades legais aplicáveis e com políticas e procedimentos que protegem a privacidade, os direitos civis e as liberdades civis.
• Seja Transparente e Responsável: Forneceremos transparência apropriada ao público e aos nossos clientes em relação aos nossos métodos, aplicativos e usos de IA dentro dos limites de segurança, tecnologia e disponibilidade por lei e política, e de acordo com os Princípios de Transparência de Inteligência para o IC. Desenvolveremos e empregaremos mecanismos para identificar responsabilidades e fornecer responsabilidade pelo uso da IA e seus resultados.
• Seja Objetivo e Equitativo: Consistente com nosso compromisso de fornecer inteligência objetiva, tomaremos medidas afirmativas para identificar e mitigar o viés.
• Busque Desenvolvimento e Uso Centrados no Ser Humano: Desenvolveremos e usaremos a IA para aumentar nossa segurança nacional e melhorar nossas parcerias confiáveis, temperando a orientação tecnológica com a aplicação do julgamento humano, especialmente quando uma ação tem o potencial de privar os indivíduos de direitos constitucionais ou interferir no seu livre exercício das liberdades civis.
• Seja Seguro e Resiliente: Desenvolveremos e empregaremos as melhores práticas para maximizar a confiabilidade, a segurança e a precisão do design, desenvolvimento e uso de IA. Empregaremos as melhores práticas de segurança para construir resiliência e minimizar o potencial de influência contraditória.
• Seja Informado pela Ciência e Tecnologia: Aplicaremos rigor em nosso desenvolvimento e uso de IA, envolvendo-nos ativamente tanto em todo o IC quanto com as comunidades científicas e tecnológicas mais amplas para utilizar os avanços na pesquisa e as melhores práticas dos setores público e privado.

Para ajudar na implementação desses Princípios, o IC também criou uma Estrutura de Ética em IA para orientar o pessoal que está determinando se e como adquirir, projetar, construir, usar, proteger, consumir e gerenciar IA e outras análises avançadas.

Esta Estrutura de Ética em IA – que na verdade é um guia – indica ao pessoal da Comunidade de Inteligência dos Estados Unidos como adquirir, projetar, construir, usar, proteger, consumir e gerenciar IA e dados relacionados. O guia corresponde a uma série de perguntas que, em conjunto com os procedimentos e práticas específicos da sua agência, promove o design ético da IA consistente com os Princípios de Ética da IA para a Comunidade de Inteligência.

De maneira resumida, estes são os itens presentes no guia:

• É necessário compreender metas e riscos no uso da IA;
• A IA deve ser utilizada considerando-se as obrigações legais e mesmo políticas que regem a própria IA e os dados utilizados;
• Deve haver julgamento por um ser humano, que é responsável pelas suas decisões;
• A objetividade deve ser buscada mitigando-se o viés indesejado, inclusive com atenção aos pontos de coletas dos dados;
• Todo sistema de IA deve ser testado quanto à precisão em um ambiente que controle os riscos conhecidos e razoavelmente previsíveis antes de ser implantado;
• Todo sistema de IA deve ser continuamente avaliado com vistas a modificações e/ou alterações para sua melhoria contínua;
• Para garantir que uma IA seja usada corretamente, é importante comunicar (a) para que serve a IA, (b) para que não serve, (c) como foi projetada e (d) quais são suas limitações – ou seja, deve haver documentação de tudo;
• Devem ser utilizados métodos explicáveis e compreensíveis, na medida do possível, para que usuários, supervisores e o público, conforme apropriado, entendam como e por que a IA gerou seus resultados;
• Deve haver revisão periódica de toda IA para determinar se ainda atende ao seu propósito e se quaisquer vieses indesejados ou resultados não intencionais são adequadamente mitigados;
• Antes que a IA seja implantada, deve ficar claro quem terá a responsabilidade pela manutenção, monitoramento, atualização e desativação contínuas da IA.

É importante destacar que o guia é aberto ao feedback do público.

Conforme os sistemas de inteligência artificial continuam avançando e se tornando cada vez mais amplamente adotados, é crucial considerar a relação importante entre a IA e a proteção de dados. A capacidade da IA de processar grandes quantidades de dados pessoais rápida e automaticamente destaca a necessidade de as organizações serem especialmente cuidadosas com os requisitos de proteção de dados e garantirem que estão em conformidade com todas as leis e regulamentos relevantes.

A proteção de dados se torna ainda mais importante no campo da IA porque esses sistemas dependem de grandes quantidades de dados para funcionar eficazmente. Garantir que os dados pessoais de indivíduos sejam coletados, utilizados e compartilhados de forma justa, segura e transparente é crucial não apenas para o cumprimento legal, mas também para a construção de confiança nas tecnologias e em seus benefícios potenciais para a sociedade. É importante que os desenvolvedores de IA e os reguladores de proteção de dados continuem a trabalhar juntos para alcançar um equilíbrio entre o uso de dados para avançar a IA e proteger os direitos e liberdades de todos nós.

Para complementar os princípios de ética em inteligência artificial vale dar uma lida a respeito da ISO/IEC 38507, além de buscar saber um pouquinho mais sobre os impactos dos desenvolvedores na privacidade. Vale também ver o Guia publicado pela Autoridade de Proteção de Dados da França a respeito de como cumprir com o RGPD quando a empresa estiver utilizando uma IA.

Vamos que vamos e #colanopapai!