Das Bundesamt für Sicherheit in der Informationstechnik (BSI) beschreibt grundlegende Schutzmaßnahmen gegen manipulierte Inhalte in dokumentbasierten KI-Chats.
Bei sogenannten indirekten Prompt-Injection-Angriffen werden Anweisungen beispielsweise in hochgeladenen PDFs oder anderen Dokumenten versteckt. Sie können ein Sprachmodell dazu bringen, Sicherheitsvorgaben zu missachten oder sensible Informationen preiszugeben.
Schutz vor Prompt Injections in dokumentbasierten KI-Chats (Grafik: Internet für Architekten)
Der BSI-Leitfaden richtet sich an Betreiber:innen von LLM-Chats, die Dokumente auswerten. Die Empfehlungen beruhen auf Red-Teaming-Untersuchungen, also gezielten Tests auf mögliche Fehlfunktionen und Schwachstellen. Ergänzend stellt das BSI die Maßnahmen in einem GitHub-Repository bereit.
Der Link zum Beitrag „Basisschutz gegen Indirect Prompt Injection in dokumentbasierten LLM-Chats“ wurde am 02. Oktober 2026 der Presseschau auf „Internet für Architekten“ hinzugefügt.
Übrigens: Wenn Sie Link-Tipps für unsere Presseschau haben, schreiben Sie uns.
QR-Code scannen
Scannen Sie den QR-Code, um diese Seite auf Ihrem Smartphone zu öffnen.
Weitere Einträge in unserer Presseschau
- Introducing Claude Opus 5.5 24. September 2026
- Kimi, Qwen und Co. – Was hinter dem Hype um chinesische KI-Modelle steckt 12. September 2026
- Umfrage: Auftragsbestand Architekturbüros sinkt auf 10 Monate 21. August 2026
- Sechs KI-Rendering-Tools im Test: D5 Render liegt vorn 19. August 2026
- Zweiter Workshop zum KI-Kodex: Prinzipien konkretisieren und Verantwortung gestalten 3. August 2026
- Praktischer Ratgeber zum AI Act 2026: Deepfakes und KI-Texte richtig kennzeichnen 30. Juli 2026
- Kostenloses Tool: Welcher KI-Chatbot passt zu Ihrem Büro? 27. Juli 2026
- Podcasts als Denkraum der Branche 27. Juni 2026
- Kommission veröffentlicht Praxisleitfaden für die Markierung und Kennzeichnung von KI-generierten Inhalten 23. Juni 2026
- Wohnungsbau: Die Bauindustrie redet über KI – arbeitet aber oft noch in 2D 4. Juni 2026