O ChatGPT pode revolucionar a segurança cibernética

efks - stock.adobe.com

Juntamente com o aprendizado de máquina (ML), a inteligência artificial (IA) representa a resposta para muitos desafios de segurança cibernética e o futuro distópico apresentado por todos os bons filmes e livros de ficção científica apocalíptica.

Além da inclusão da IA ​​em muitos slides de fornecedores como uma forma de posicionar a tecnologia de última geração e uma abordagem mais avançada e automatizada para a tecnologia, ela agora está se tornando um conceito cada vez mais popular. No final de 2022, atingiu a consciência pública de uma forma totalmente nova com o lançamento do ChatGPT, parte da plataforma OpenAI que permite o diálogo conversacional para responder a perguntas, dialogar e fornecer respostas detalhadas.

Este avanço de uma consulta glorificada do Google disparou a imaginação, com a consciência dos alunos que procuram respostas rápidas de redação sem a necessidade frustrante de realmente ler os materiais de origem em primeiro plano, seguidos por professores que procuram automatizar a correção de forma semelhante.

Quem já sofreu nas mãos de um chatbot de site ao tentar obter ajuda ou resposta para uma pergunta vagamente complexa também viu esperança na chance de um resultado mais positivo ao falar com um computador. Sem dúvida, abriu um mundo de potencial para a IA impactar a forma como nos envolvemos com a tecnologia no dia-a-dia como indivíduos, em vez de apenas uma misteriosa caixa preta alimentando sistemas de previsões meteorológicas a foguetes espaciais.

Inevitavelmente, o impacto potencial na segurança cibernética também se tornou rapidamente um tópico de conversa importante – de ambos os lados. Para os invasores, houve instantaneamente a chance de transformar texto de phishing básico, geralmente infantil, em estruturas mais profissionais, juntamente com a chance de automatizar o envolvimento com várias vítimas em potencial tentando encontrar uma saída da armadilha do ransomware em que caíram.

Para os defensores, isso também pode oferecer a chance de revolucionar processos, como verificação de código ou melhorar a educação sobre phishing? Está em um estágio muito inicial e certamente possui várias falhas (pelo menos a maneira como você manipula o sistema para produzir respostas maliciosas, apesar das salvaguardas incorporadas), mas ampliou o debate sobre como a IA pode mudar o setor de segurança cibernética. .

Como uma nova ferramenta, é divertido jogar com o ChatGPT – e como Dave Barnett, chefe de borda de serviço de acesso seguro (SASE) e segurança de e-mail para a Europa, Oriente Médio e África (EMEA) na Cloudflare, diz: "É uma ferramenta assustadoramente boa sistema - qualquer um que tenha pedido ao ChatGPL para explicar algum conceito técnico obscuro na forma de um poema perceberá o quão poderoso ele é."

No entanto, Barnett destaca as sérias preocupações que surgiram. "Acho que o estabelecimento de segurança da informação precisa levar um pouco de tempo para considerar as implicações - em primeiro lugar, costumava ser muito fácil de entender quando éramos enganados por golpes 419, SMS de pagamento de entrega ou comprometimento de e-mail comercial, pois eles tudo parecia falso para os humanos", diz ele.

"A inteligência sintética poderia nos enganar? Também precisamos ter muito cuidado com os riscos de proteção de dados - como para onde vão os dados e quem é o controlador e o processador. Os humanos são naturalmente curiosos, então, se começarmos a falar com computadores como se eles 'somos humanos, é altamente provável que compartilhemos informações que provavelmente não deveríamos. Finalmente, essa poderia ser uma maneira de resolver a falta de habilidades em TI? Se o OpenAI pode escrever código em um idioma há muito esquecido, provavelmente será de ótima ajuda."

Para Ronnie Tokazowski, principal consultor de ameaças da Cofense, a chance de ser criativo com a plataforma foi aproveitada, pois "criar letras de rap geradas por IA sobre a paz mundial e revelações de OVNIs é divertido e atrevido, mas é possível enganar a IA em fornecer as informações que você está procurando".

Garantir a existência de proteções é essencial em qualquer compilação de aplicativo, e a segurança por design para IA em comparação com apenas um wrapper de segurança pós-compilação sempre será a opção preferida. Esse é claramente o objetivo dos desenvolvedores, já que "a intenção da IA ​​é boa e não deseja criar simulações de phishing", mas perguntar de várias maneiras (como remover a palavra phish) ainda não gera uma resposta positiva. No entanto, ser criativo deu resultados.