Usuário é banido de plataforma de reservas após dar 'liberdade' excessiva a agente de IA
Brian Distelburger, cofundador da startup Windmill, teve sua conta no sistema de reservas Resy desativada após configurar um agente de IA para monitorar mesas em um restaurante de luxo em Nova York. Sem as devidas 'travas' (guardrails), o agente foi identificado como tráfego de bot. O usuário conseguiu recuperar a conta após usar outro agente de IA para redigir um e-mail de desculpas profissional e detalhado, servindo como um alerta sobre a importância de controlar como as IAs interagem com serviços externos.
O incidente com o Resy
O usuário configurou um agente de IA com acesso às suas credenciais no Resy para monitorar a disponibilidade de mesas no restaurante 4 Charles. Por não ter estabelecido limites de frequência, o sistema identificou o comportamento como automatizado e baniu a conta em menos de 48 horas. O incidente ressaltou a dificuldade que empresas de serviços têm em lidar com o tráfego gerado por agentes de IA sem políticas claras de engajamento.
A solução via IA
Para resolver o problema, Distelburger utilizou um agente de IA chamado 'Hannah' para redigir um e-mail de apelo. O texto gerado foi profissional e detalhado, explicando o erro técnico e garantindo que as políticas do site seriam respeitadas no futuro. O Resy concedeu uma 'reintegração por cortesia única', e o caso serviu como lição sobre a necessidade de implementar guardrails em sistemas de IA que interagem com plataformas de terceiros.