OpenAI hat ein Bug-Bounty-Programm ins Leben gerufen, das bis zu 20.000 US-Dollar Belohnung für das Auffinden von Fehlern und Sicherheitslücken in Produkten wie ChatGPT bietet.
Dies ist eine gängige Strategie, da fast alle großen Technologieunternehmen ähnliche Programme haben, um “Hacker” und externe Experten für das Auffinden von Schwachstellen großzügig zu belohnen. Das Bug-Bounty-Programm von OpenAI bietet Belohnungen zwischen 200 und 20.000 US-Dollar für das Auffinden von Fehlern und Bugs in Tools wie ChatGPT. Die Höhe der Belohnung hängt von der Schwere, dem Ausmaß des zu erwartenden Schadens und der Komplexität der Schwachstelle ab. Es wird darauf hingewiesen, dass das Bug-Bounty-Programm nicht für Fehler in der Texteingabe von ChatGPT gilt.
Denn: Vor einigen Wochen konnten einige Tester mithilfe des Prompt-Systems die Einschränkungen für sensible Inhalte von ChatGPT umgehen, ohne sich mit Einstellungen auf Code-Ebene befassen zu müssen. Das Problem wurde intern sofort zum Thema gemacht, trotzdem wird OpenAI weiterhin promptbezogene Schwachstellen nur dann für das Bug-Bounty-Programm berücksichtigen, wenn sie eine direkte Sicherheitsbedrohung darstellen.
