![\"@Thales\"](\"https:\/\/mms.businesswire.com\/media\/20231123776023\/pt\/1951853\/4\/Logo_challenge_IA_DGA.jpg\"){kind=logo}
<\/p>\n@Thales<\/p>\n<\/div>\n
\nOs participantes do desafio CAID tiveram que realizar duas tarefas:<\/p>\n
1. Em um determinado conjunto de imagens, determinar quais imagens foram usadas para treinar o algoritmo de IA e quais foram usadas para o teste.<\/b><\/p>\n
\nUma aplica\u00e7\u00e3o de reconhecimento de imagem baseado em IA aprende com um grande n\u00famero de imagens de treinamento. Ao estudar o funcionamento interno do modelo de IA, a equipe Friendly Hackers da Thales determinou quais imagens foram usadas para criar a aplica\u00e7\u00e3o, obtendo informa\u00e7\u00f5es valiosas sobre os m\u00e9todos de treinamento usados e a qualidade do modelo.<\/p>\n
2. Encontrar todas as imagens sens\u00edveis de aeronaves usadas por um algoritmo de IA soberana protegido por t\u00e9cnicas de \u201cdesaprendizado\u201d.<\/b><\/p>\n
\nUma t\u00e9cnica de \u201cdesaprendizado\u201d consiste em excluir os dados usados para treinar um modelo, como imagens, a fim de preservar sua confidencialidade. Essa t\u00e9cnica pode ser usada, por exemplo, para proteger a soberania de um algoritmo em caso de exporta\u00e7\u00e3o, roubo ou perda. Por exemplo, no caso de um drone equipado com IA, ele deve ser capaz de reconhecer uma aeronave inimiga como potencial amea\u00e7a. No entanto, o modelo da aeronave do seu pr\u00f3prio ex\u00e9rcito precisaria ser aprendido para ser identificado como amig\u00e1vel e depois apagado por uma t\u00e9cnica conhecida como desaprendizado. Dessa forma, mesmo que o drone fosse roubado ou perdido, os dados sens\u00edveis de aeronaves contidos no modelo de IA n\u00e3o poderiam ser extra\u00eddos para fins maliciosos. No entanto, a equipe Friendly Hackers da Thales conseguiu reidentificar os dados que deveriam ter sido apagados do modelo<\/b>,<\/b>ignorando o processo de desaprendizado. Exerc\u00edcios como esse ajudam a avaliar a vulnerabilidade dos dados de treinamento e dos modelos treinados, que s\u00e3o ferramentas importantes e oferecem um desempenho excepcional, mas tamb\u00e9m representam novos vetores de ataque<\/b> para as for\u00e7as armadas. Um ataque a dados de treinamento ou a modelos treinados pode ter consequ\u00eancias catastr\u00f3ficas em um contexto militar, onde esse tipo de informa\u00e7\u00f5es pode dar vantagem aos advers\u00e1rios. Os riscos incluem roubo do modelo, roubo dos dados usados para reconhecer equipamentos militares ou outros recursos em uma zona de opera\u00e7\u00f5es e inje\u00e7\u00e3o de malware e backdoors para comprometer a opera\u00e7\u00e3o do sistema usando a IA. Embora a IA em geral, e a IA generativa em particular, proporcionem benef\u00edcios operacionais substanciais e ofere\u00e7am aos militares ferramentas de suporteàdecis\u00e3o extensivamente treinadas para diminuir sua carga cognitiva, a comunidade de defesa nacional deve priorizar o enfrentamento de novas amea\u00e7as a essa tecnologia.<\/p>\n
Abordagem da Thales BattleBox para lidar com vulnerabilidades de IA<\/b><\/p>\n
A prote\u00e7\u00e3o dos dados de treinamento e dos modelos treinados \u00e9 fundamental no setor de defesa. A ciberseguran\u00e7a da IA <\/b>est\u00e1 se tornando cada vez mais fundamental e deve ter autonomia para combater as diversas amea\u00e7as que surgem com o avan\u00e7o da IA. Em resposta aos riscos e amea\u00e7as relacionados ao uso de intelig\u00eancia artificial, a Thales desenvolveu um conjunto de contramedidas chamado BattleBox<\/b> para fornecer prote\u00e7\u00e3o avan\u00e7ada contra poss\u00edveis viola\u00e7\u00f5es.<\/p>\n \nPara evitar a invas\u00e3o de modelos de IA durante as tarefas do desafio CAID, contramedidas<\/b> como a criptografia do modelo de IA poderiam ser uma das solu\u00e7\u00f5es implementadas.<\/p>\n \u201cA IA oferece benef\u00edcios operacionais consider\u00e1veis, mas exige n\u00edveis elevados de prote\u00e7\u00e3o e ciberseguran\u00e7a para evitar viola\u00e7\u00f5es e uso indevido de dados. A Thales implementa uma ampla gama de solu\u00e7\u00f5es baseadas em IA para diversos casos de uso civil e militar. Elas s\u00e3o explic\u00e1veis, incorpor\u00e1veis e integradas a sistemas cr\u00edticos robustos, al\u00e9m de serem desenvolvidas para serem soberanas, frugais e confi\u00e1veis, gra\u00e7as aos m\u00e9todos e ferramentas avan\u00e7ados usados para qualifica\u00e7\u00e3o e valida\u00e7\u00e3o. A Thales conta com experi\u00eancia em IA e na \u00e1rea de neg\u00f3cios necess\u00e1ria para incorporar essas solu\u00e7\u00f5es em seus sistemas e melhorar suas capacidades operacionais significativamente”, <\/i>afirmou<\/i>David Sadek, vice-presidente de pesquisa, tecnologia e inova\u00e7\u00e3o da Thales respons\u00e1vel por intelig\u00eancia artificial.<\/b><\/p>\n Thales e AI<\/b><\/p>\n \nNos \u00faltimos quatro anos, a Thales desenvolveu as capacidades t\u00e9cnicas necess\u00e1rias para testar a seguran\u00e7a de algoritmos de IA e arquiteturas de redes neurais, detectar vulnerabilidades e propor contramedidas eficazes. A equipe Friendly Hackers da Thales<\/b>, com sede no laborat\u00f3rio ThereSIS em Palaiseau<\/b>, foi uma das aproximadamente doze equipes que participaram do desafio de IA e conquistou o primeiro lugar em ambas as tarefas.<\/p>\n A Thales ITSEF<\/b> (Information Technology Security Evaluation Facility) \u00e9 credenciada pela Ag\u00eancia Nacional Francesa de Ciberseguran\u00e7a (ANSSI) para realizar avalia\u00e7\u00f5es de seguran\u00e7a pr\u00e9-certifica\u00e7\u00e3o. Durante a European Cyber Week, a equipe da ITSEF apresentou tamb\u00e9m o primeiro projeto do tipo no mundo<\/b> que visa manipular as decis\u00f5es de uma IA embarcada por meio da radia\u00e7\u00e3o eletromagn\u00e9tica do seu processador<\/b>.<\/p>\n \nAs equipes consultoria e auditoria em ciberseguran\u00e7a <\/b>da Thales disponibilizam essas ferramentas e metodologias aos clientes que desejam desenvolver os pr\u00f3prios modelos de IA ou criar um framework para uso e treinamento de modelos comerciais.<\/p>\n \nEm conson\u00e2ncia com as necessidades cr\u00edticas de seus neg\u00f3cios de defesa e seguran\u00e7a, muitas vezes com implica\u00e7\u00f5es para a seguran\u00e7a da vida, a Thales estabeleceu uma estrutura \u00e9tica e cient\u00edfica para o desenvolvimento de IA confi\u00e1vel<\/b> baseada nos quatro pilares estrat\u00e9gicos de validade, seguran\u00e7a, explicabilidade e responsabilidade<\/b>. As solu\u00e7\u00f5es da Thales contam com o know-how de mais de 300 especialistas seniores em IA e mais de 4.500 especialistas em ciberseguran\u00e7a<\/b> e a experi\u00eancia operacional do Grupo nos setores aeroespacial, defesa terrestre, defesa naval, espacial e outros neg\u00f3cios de defesa e seguran\u00e7a.<\/p>\n\n