Zum Hauptinhalt springen
David Loor
Über michServicesProjekteBlogKontakt
←Zurück zum Blog

#llm

3 Artikel mit dem Schlagwort llm.

Gefunden 3 Beiträge
08.06.2026
13 min read

Lokales Gemma war zu langsam mit AIdaemon, bis ich llama.cpp und die Prompt-Größe optimierte

Ich wollte AIdaemon auf lokalem Gemma 4 26B über llama.cpp, nicht Ollama. Die Generierung lief mit ~45 tok/s auf einem M4 Pro. Agenten-Turns fühlten sich immer noch träge an, da das Prefill bei 14k-Token-Prompts 8 bis 9 Sekunden dauerte, bevor das Modell ein einziges Wort schrieb.

KI & Agenten
15.03.2026
5 min read

KI-Agentenmuster, die ich beim Bau von AIdaemon gelernt habe

Sieben bekannte KI-Agentenmuster und wie sie tatsächlich in AIdaemon funktionieren, einem selbst gehosteten KI-Agenten-Daemon, den ich in Rust entwickle.

KI & Agenten
08.12.2025
3 min read

Warum KI-Chatbots Markdown sprechen

Haben Sie sich jemals gefragt, warum ChatGPT, Claude und andere KI-Modelle ihre Antworten mit **Fettdruck** und [Links](url) formatieren? Das ist Markdown, und dafür gibt es einen guten Grund.

KI & AgentenWebentwicklung

Auf dem Laufenden bleiben

Erhalten Sie die neuesten Beiträge und Einblicke direkt in Ihren Posteingang.

Kein Spam. Jederzeit abbestellbar.

Archiv
  • Lokales Gemma war zu langsam mit AIdaemon, bis ich llama.cpp und die Prompt-Größe optimierte
  • KI-Agentenmuster, die ich beim Bau von AIdaemon gelernt habe
  • Warum KI-Chatbots Markdown sprechen
David Loor

KI-Engineer & Architekt

Über michServicesProjekteBlogBücherregal

© 2026 David Loor. Alle Rechte vorbehalten.

david@davidloor.com