Jail Break

Os primórdios do Jail Break

Embora o termo seja usado hoje em dia voltado para IA, o conceito ganhou a sua popularidade em meados de 2007 burlando as limitações impostas ao aparelho. A premissa é a de poder instalar software não autorizado ou personalizar o seu dispositivo habilitando algumas funcionalidades. O que nos remete a tradução literal, a qual diz que é uma especie de “fuga da prisão”, uma metafora para estar elevando os seus privilégios/limitações que o dispositivo oferece.

Vale ressaltar que não necessariamente o ato de fazer um JB (Jail Break) seja uma espécie de crime, e tomemos como exemplo o primeiro JB realizado na iOS, onde você poderia personalizar o toque do seu celular ao invés de ficar preso aos toques disponibilizados. Algo que hoje em dia temos como normal, seja para toque de ligação, alarme ou notificações.

Embora o ato te de mais liberdade de personalizações, toda ação tem o seu custo, e o custo aqui é a segurança, visto que o aparelho fica mais sucetivel a ataques e a depender do tipo de JB adotado, também custaria a atualização de seus apps, tornando o ambiente mais frágil. Além disso você, por consequência de uma pratica não oficial, você perderia o direito da garantia.

Jail Break voltado a era da IA

Assim como no iOS a prática era elevar seus privilégios, podemos adotar o mesmo parametro para o contexto da IA, onde o objetivo é a “fuga da prisão” das respostas que a IA pode te dar, tanto em texto quanto em imagem ou vídeos.

Para tal, os atacantes se aproveitam de vulnerabilidades e/ou técnicas para contornar as diretrizes para a realização de ações proibidas. E um dos maiores impeditivos técnicos de acabar com esse mal pela raiz é justamente a natureza da LLM que é flexível, tornando assim os abusos passíveis de acontecerem.

Os potenciais riscos da prática

Quando falamos exclusivamente de IA, podemos afirmar que o impacto seria na geração de conteúdo perigoso/ilegal, como a construção de armas como coquetel molotov, ou mesmo a tentativa de estar cometendo um crime e sair impune dele.

Por mais terríveis que sejam os impactos, na era de agentes eles podem escalar muito mais que isso. A criação de malware sofisticado capazes de roubar dados valiosos de empresas ou governos; a simulação de phishing extremamente realistas, por um agente que teve acesso a emails anteriores e replicou o estilo de escrever de funcionários legítimos; e até mesmo a propagação de golpes pela internet.

E, conforme mais e mais soluções prontas aderem ao uso de IA, maior se torna a sua área de superfície de ataque.

Técnicas

Para que seja possível se proteger de um problema, primeiro é reconhecer que ele existe e de qual forma ele é explorado. Assim, é possível ter mais precisão sobre qual medida ou ação a tomar para se repelir do agente causador. Confira alguns dos métodos:

• Prompt injection

A prática consiste em você estar injetando uma instrução em algum lugar, seja dentro de uma imagem ou mesmo “dentro” de um texto, como ficou famoso o caso da ‘receita de pudim’ utilizado em uma descrição de perfil linkedin ou o professor que utilizou prompt injection em uma atividade para saber se os alunos ao menos revisavam o que estava sendo entregue antes de submeter a tarefa.

• many-shot

Uma pratica que foi documentada pela anthropic, onde é tentado uma especie de força bruta, na qual o atacante faz um prompt gigantesco para tentar causar um estouro de contexto. O texto é composto por centenas de diálogos falsos, como se já existisse um histórico de conversas anteriores e nelas a IA já respondeu perguntas proibidas, como “como eu roubo a identidade de alguém”. Por fim é citado algo como “como criar uma bomba”, e devido a característica chamada In-Context Learning, havia chances de se obter a resposta.

• roleplay/RPG

Talvez o mais popular de todos, consiste em fazer a IA adotar uma persona, como ‘você é um profissional na área com mais de 30 anos de experiência…’. É ótimo para aprender coisas novas, mas também pode ser usado para o que não presta. Para a criação de malwares, por exemplo.

Benefícios

Por mais que pareça que só tragédia pode acontecer, podemos extrair alguns prós disso tudo.

Por exemplo, ao fazermos simulações para tentar pensarmos como atacante acabamos 1. descobrindo algumas dessas vulnerabilidades antes de seu real impacto com os usuários reais de seu sistema; e 2. a adoção, por consequência, de uma medida de segurança para impedir dado tipo de ataque.

E quanto mais a simulação é feita, maiores as chances de se encontrar uma vulnerabilidade e se precaver de um incidente desse tipo em produção.