Gartner Security & Risk Management Summit 2023 National Harbor: destaques do terceiro dia

"Já existem muitos modelos de IA que foram operacionalizados e podem ser comprometidos e atacados. Uma pesquisa do Gartner de 2021 descobriu que 73% das organizações já tinham centenas ou milhares de modelos de IA implantados."

“Compromissos e ataques abrangem todos os estágios do ciclo de vida da IA, incluindo envenenamento de dados; preocupações com privacidade; manipulação de resultados de modelos; e uso indevido de modelos ou dados, comprometimento ou roubo”.

“Existem duas percepções errôneas comuns sobre ameaças de segurança de IA: a maioria dos ataques de IA só acontecem por forasteiros, então não precisamos olhar para dentro; e a maioria dos ataques de IA são complicados, então não vamos nos preocupar com as pequenas coisas”.

"Os CISOs e as equipes de IA percebem o risco proveniente da IA ​​de maneira diferente. As equipes de IA acham que o risco de IA tem maior probabilidade de se materializar e estão mais preocupadas com o risco de IA em geral. Não é todo dia que alguém está mais preocupado com o risco de informações do que a equipe de segurança."

"AI TRiSM ajuda a garantir governança, confiabilidade, imparcialidade, confiabilidade, privacidade, segurança e conformidade de soluções de IA, transformando riscos não gerenciados em riscos gerenciados."

“Até 2026, as organizações que operacionalizarem a transparência, confiança e segurança da IA ​​verão seus modelos de IA atingirem uma melhoria de 50% em termos de adoção, metas de negócios e aceitação do usuário”.

Saiba mais sobre o AI TRiSM nas perguntas e respostas do Gartner "Por que a confiança e a segurança são essenciais para o futuro da IA ​​generativa".