Das Bundesamt für Sicherheit in der Informationstechnik (BSI) beschreibt grundlegende Schutzmaßnahmen gegen manipulierte Inhalte in dokumentbasierten KI-Chats. Bei sogenannten indirekten Prompt-Injection-Angriffen werden Anweisungen beispielsweise in hochgeladenen PDFs oder anderen Dokumenten versteckt. Sie können ein Sprachmodell dazu bringen, Sicherheitsvorgaben zu missachten oder sensible Informationen preiszugeben. Der BSI-Leitfaden richtet sich an Betreiber:innen von LLM-Chats, die Dokumente auswerten. Weiterlesen →


