Especialista da Microsoft Alerta Sobre Riscos de Interagir com Modelos de IA Independentes
Ram Shankar Siva Kumar, líder da equipe AI Red Team da Microsoft, comparou o cenário atual da IA ao "velho oeste" tecnológico, alertando sobre os perigos de modelos independentes. Ele recomenda a aplicação de hábitos de segurança tradicionais para proteger dados e dispositivos.
Riscos e Recomendações de Segurança
Ram Shankar Siva Kumar, líder da equipe AI Red Team da Microsoft, advertiu usuários sobre os riscos de interagir com modelos de IA independentes. Em entrevista à PCWorld durante a conferência de cibersegurança RSAC, Kumar comparou o atual cenário da IA ao "velho oeste" da tecnologia, remetendo aos primórdios da internet, quando o download de arquivos de fontes desconhecidas era extremamente arriscado. O especialista destacou que o perigo pode advir tanto de ataques maliciosos quanto de softwares criados por equipes menores, que possivelmente carecem de infraestrutura segura adequada. Ele aconselha cautela em relação à origem da IA e às permissões concedidas, mesmo que o aplicativo pareça confiável. Segundo Kumar, aplicar os mesmos hábitos de segurança utilizados em softwares tradicionais é fundamental para proteger dados sensíveis e dispositivos. A recomendação espelha práticas de segurança consolidadas desde o final dos anos 90, quando usuários buscavam versões não oficiais de softwares e músicas, frequentemente contendo ameaças.