Desde a sua introdução, o chatbot Snapchat My AI obteve respostas mistas, em parte devido à falta de precauções de segurança da empresa e seu posicionamento proeminente no feed do Chat. Agora, em uma recente revelação perturbadora, o chatbot AI começou a gravar vídeos dos arredores de muitos usuários, incluindo paredes e tetos, e posteriormente compartilhar esses vídeos como histórias ao vivo com todo o público.
Como resultado, muitos usuários recorreram ao X para expressar suas preocupações. Por exemplo, @RyanJKrul expressaram sua preocupação afirmando: “Meu Snapchat AI postou uma história aleatória de 1 segundo e não está respondendo a mim, E ESTOU APAIXONADO.” Enquanto isso, @repmiIas espirituosamente traçou paralelos com o enredo de um filme, e @Zander0009 especulou de brincadeira que a IA havia ganhado consciência. Além disso, o fato de o chatbot ter parado de responder às perguntas dos usuários alimentou ainda mais as preocupações dos usuários.
Resposta do Snapchat
Embora longe de senciente, o Snapchat prontamente abordou a situação atribuindo o ‘My AI’ anomalia a uma falha técnica que interrompeu as operações regulares do chatbot. Além disso, a plataforma também explicou que resolveu o problema e esclareceu que a IA não havia capturado secretamente instantâneos dos arredores dos usuários.
No entanto, este incidente mais uma vez ressalta a pressa da empresa em integrar a IA em seu serviço. Além disso, o fato de a página de suporte do Snapchat aconselhar explicitamente os usuários a não confiar informações confidenciais à IA ou antecipar respostas totalmente precisas ressalta os desafios que as empresas enfrentam na regulamentação desses sistemas de IA.
No entanto, o Snap não está sozinho em lidar com esses desafios. A Zoom, por exemplo, enfrentou recentemente uma reação generalizada por revisar sua política de privacidade para permitir o uso de dados de clientes para treinamento de IA, voltando atrás em sua decisão devido às críticas. Além disso, até gigantes da tecnologia como o Google encontraram obstáculos significativos durante os primeiros dias, com alguns Googlers expressando desapontamento com o lançamento prematuro do chatbot Bard AI.