Vulnerabilidades e bugs de software são um desafio significativo para as empresas, pois os hackers costumam usá-los para obter acesso não autorizado a dados confidenciais. Agora, em um esforço para tornar seus sistemas mais resistentes a esses bugs e vulnerabilidades, a OpenAI anunciou um programa de recompensas de bugs que recompensará os usuários por encontrarem vulnerabilidades de segurança. O programa de recompensas será executado na plataforma Bugcrowd e oferecerá recompensas em dinheiro de até US$ 20.000 para descobertas excepcionais e US$ 200 para descobertas de baixa gravidade.
A OpenAI diz que o programa se concentrará em vulnerabilidades relacionadas à privacidade e segurança cibernética nos domínios da web e APIs da empresa. Além disso, a empresa também está interessada em descobrir pontos fracos na forma como o ChatGPT processa os dados do usuário, que também incluirá acesso de terceiros por meio de sua API.
Os pesquisadores podem relatar bugs na interface de programação de aplicativos (API) da OpenAI e no ChatGPT diretamente na plataforma Bugcrowd. No entanto, a OpenAI solicitou que os pesquisadores relatassem problemas de modelo por meio de um formulário separado, a menos que tenham um impacto na segurança. Isso ocorre porque os problemas de segurança do modelo exigem pesquisa significativa e uma abordagem mais ampla, e não são erros discretos que o OpenAI pode corrigir diretamente.
Limitações do programa
O programa de recompensas de bugs tem algumas limitações, já que o OpenAI não aceitará jailbreaks para ChatGPT ou prompts de texto com a intenção de induzir o programa AI a violar suas próprias regras. Além disso, a empresa também não aceitará denúncias de mau comportamento do ChatGPT ou de invenção de fatos no âmbito do programa.
Embora os valores de recompensa da OpenAI possam ser menores do que outros gigantes da tecnologia, como Google e Apple, que podem pagar até US$ 2 milhões pelas vulnerabilidades mais graves, o programa de recompensas por bug oferece aos usuários a oportunidade de contribuir para a melhoria da plataforma e se proteger. e outros de possíveis riscos de segurança.
“Convidamos você a relatar vulnerabilidades, bugs ou falhas de segurança que descobrir em nossos sistemas. Ao compartilhar suas descobertas, você desempenhará um papel crucial para tornar nossa tecnologia mais segura para todos”, diz OpenAI.