(g+) Digitale Souveränität: Warum das Zendis so wichtig ist

Das Zendis hat wenig Ressourcen und leistet dennoch Beachtliches. Es braucht aber mehr Unterstützung, denn von dem Zentrum hängt viel ab. Ein IMHO von Markus Feilner (Raus aus der (US)-Cloud, Open Source)

Das Zendis hat wenig Ressourcen und leistet dennoch Beachtliches. Es braucht aber mehr Unterstützung, denn von dem Zentrum hängt viel ab. Ein IMHO von Markus Feilner (Raus aus der (US)-Cloud, Open Source)

Neue VDE-Norm: Balkonkraftwerk mit Schuko-Stecker sorgt auch für Frust

Eine unerklärliche Begrenzung für Solaranlagen auf dem Balkon verschenkt viel Potenzial, das die Energiewende im Kleinen weiter beschleunigt hätte. (Balkonkraftwerk, Solarenergie)

Eine unerklärliche Begrenzung für Solaranlagen auf dem Balkon verschenkt viel Potenzial, das die Energiewende im Kleinen weiter beschleunigt hätte. (Balkonkraftwerk, Solarenergie)

Syntax hacking: Researchers discover sentence structure can bypass AI safety rules

New research offers clues about why some prompt injection attacks may succeed.

Researchers from MIT, Northeastern University, and Meta recently released a paper suggesting that large language models (LLMs) similar to those that power ChatGPT may sometimes prioritize sentence structure over meaning when answering questions. The findings reveal a weakness in how these models process instructions that may shed light on why some prompt injection or jailbreaking approaches work, though the researchers caution their analysis of some production models remains speculative since training data details of prominent commercial AI models are not publicly available.

The team, led by Chantal Shaib and Vinith M. Suriyakumar, tested this by asking models questions with preserved grammatical patterns but nonsensical words. For example, when prompted with “Quickly sit Paris clouded?” (mimicking the structure of “Where is Paris located?”), models still answered “France.”

This suggests models absorb both meaning and syntactic patterns, but can overrely on structural shortcuts when they strongly correlate with specific domains in training data, which sometimes allows patterns to override semantic understanding in edge cases. The team plans to present these findings at NeurIPS later this month.

Read full article

Comments

Add-ons für Chrome und Edge: 4,3 Millionen Geräte per Update mit Malware infiziert

Hacker haben über mehrere Jahre hinweg zunächst harmlose Erweiterungen für Chrome und Edge veröffentlicht. Doch dann sind Updates mit Schadcode gekommen. (Malware, Browser)

Hacker haben über mehrere Jahre hinweg zunächst harmlose Erweiterungen für Chrome und Edge veröffentlicht. Doch dann sind Updates mit Schadcode gekommen. (Malware, Browser)

Framework Laptop 16 2nd Gen im Test: Der perfekte Laptop für Nerds

Beim Framework Laptop 16 tauschen wir Tastatur, Trackpad, Grafikkarte und Anschlüsse aus – ein Konzept, das die neue Generation erweitert. Ein Test von Oliver Nickel (Framework Laptop, Notebook)

Beim Framework Laptop 16 tauschen wir Tastatur, Trackpad, Grafikkarte und Anschlüsse aus - ein Konzept, das die neue Generation erweitert. Ein Test von Oliver Nickel (Framework Laptop, Notebook)