Laya lokal mit Claude Code einrichten: die kostenlose Entscheidungs-KI, die auf deinem Laptop läuft und deine Kundendaten nicht verschickt

Von Ernst Neumeister · Lesezeit ca. 8 Minuten

Deine Automationen stellen den ganzen Tag winzige Fragen. Ist das ein echter Lead? Ist diese Mail dringend? Will der Kunde kündigen? Für jede dieser Antworten schickst du normalerweise Text an eine KI im Netz und bezahlst dafür, und mit dem Text gehen oft auch Daten deiner Kunden hinaus.

Es geht auch anders: Laya ist ein kostenloses Open-Source-Modell, das genau solche kleinen Entscheidungen auf deinem eigenen Rechner trifft, in Sekundenbruchteilen und mit einer Angabe, wie sicher es sich ist. Auf dieser Seite bekommst du den Link, die eine Zeile für Claude Code, drei Beispiel-Fragen für Unternehmer und die ehrlichen Grenzen. Die gehören dazu, denn nicht alles, was in Tempo-Vergleichen glänzt, trifft auf deinen Alltag zu.

Hier ist der Link

Kein Suchen, kein Umweg, hier ist das offizielle Projekt:

Der Link führt zu GitHub, der großen Plattform, auf der Entwickler ihre Software teilen. Die Seite ist englisch und sehr technisch, du musst dort nichts verstehen und nichts anklicken. Gut zu wissen: Laya hat dort schon über 30.000 Sterne (so etwas wie Likes unter Entwicklern). Die Apache-2.0-Lizenz erlaubt dir die Nutzung auch geschäftlich. Entwickelt hat es Nandakishor Mukkunnoth (Convai Innovations).

Das bekommst du am Ende

• ✅ Laya lokal auf deinem Rechner, mit Claude Code eingerichtet und mit Claude verbunden
• ✅ Eine Zeile zum Einfügen, die Installation und Verbindung für dich erledigt
• ✅ Drei Beispiel-Fragen, mit denen du Laya an typischen Unternehmer-Entscheidungen testest
• ✅ Einen Weiterleit-Schwellenwert, damit deine Automation weiß, wann sie lieber dich fragt
• ✅ Eine Anleitung, wie du Laya prüfst, bevor du ihm echte Entscheidungen überlässt

Was Laya ist und was nicht

Laya ist kein Chatbot. Es schreibt keine Texte und führt keine Gespräche. Es beantwortet kleine, klar gestellte Fragen zu einem Text, und zwar in drei Formen: Ja oder Nein, eine Option aus mehreren wählen (zum Beispiel Vertrieb, Support oder Buchhaltung) oder eine Zahl vergeben (zum Beispiel Dringlichkeit von 1 bis 10). Zu jeder Antwort gibt es eine Wahrscheinlichkeit, also wie sicher sich das Modell ist. Es versteht laut Projekt über 100 Sprachen, also auch Deutsch.

Gedacht ist es als schneller Vorsortierer in Automationen. Der Entwickler vergleicht es mit dem bezahlten Modell Jev der Firma TypeSafe AI, das über eine Schnittstelle im Netz läuft und pro Anfrage kostet. Laut Entwickler antwortet Laya in etwa 33 Millisekunden, das bezahlte Modell braucht im selben Test grob 240 bis 280. Das ist der Hintergrund der Aussage „fast achtmal schneller“. Wichtig dazu: Diese Zeit wurde mit einer Grafikkarte gemessen. Auf einem Mac mit Apple-Chip läuft es laut Projekt vergleichbar schnell, auf einem Rechner ohne Grafikchip spürbar langsamer.

Die eine Zeile für Claude Code

Du musst nichts bauen. Du öffnest Claude Code, fügst eine Zeile ein, und Claude richtet alles ein, so wie es die README beschreibt. Das ist der Kurz-Auftrag:

Installiere Laya (https://github.com/NandhaKishorM/laya) lokal auf meinem Computer, richte es als MCP-Server für Claude ein und teste es mit drei Beispiel-Fragen auf Deutsch.

MCP ist eine Art Steckdose, über die Claude Werkzeuge nutzen kann. Mit der Verbindung kann Claude Laya direkt fragen, ohne dass du irgendetwas kopieren musst. Wenn du lieber mehr Kontrolle willst, nimm die ausführliche Fassung. Sie sagt Claude auch, was nicht passieren darf:

Bitte richte mir das kostenlose, lokal laufende Entscheidungs-Modell Laya ein. Das Repository ist: https://github.com/NandhaKishorM/laya

Bitte geh so vor:
1. Lies die README des Repositorys und prüfe, was mein Computer braucht (Python 3.10 oder neuer, ob ich einen Mac mit Apple-Chip, einen Intel-Mac oder Windows habe). Sag mir in einfachen Worten, was fehlt, und richte nichts ohne meine Erlaubnis ein.
2. Installiere Laya nach der offiziellen Anleitung in einer eigenen, abgetrennten Python-Umgebung, damit nichts anderes auf meinem Rechner verändert wird. Für die Verbindung zu Claude brauchst du die Variante laya[mcp].
3. Richte Laya als MCP-Server für Claude Code ein, damit du es als Werkzeug nutzen kannst.
4. Teste es mit drei Beispiel-Fragen auf Deutsch (echter Lead? Mail dringend? Kündigungsabsicht?) und zeig mir die Antworten mit den Wahrscheinlichkeiten.
5. Erkläre mir danach, wie sicher du dir bei den Ergebnissen bist und wo Laya Schwächen hat.

Wichtig: Das Modell wird beim ersten Start einmalig aus dem Internet heruntergeladen. Danach laufen alle Anfragen lokal. Schick niemals echte Kundendaten an irgendeinen Dienst im Netz. Für den Test nimmst du nur erfundene Beispiele.

Drei Beispiel-Fragen für Unternehmer

Mit diesen drei Fragen testest du Laya an Entscheidungen, die in deinem Alltag ständig vorkommen. Lass Claude sie stellen und die Antwort samt Sicherheit anzeigen. Die Beispieltexte sind erfunden, tausche sie später gegen eigene (ohne echte Namen und Daten) aus:

1. Ist das ein echter Lead? (Ja oder Nein)
   Beispieltext: „Hallo, wir sind ein Team mit zwölf Leuten und suchen bis Ende des Monats jemanden, der uns bei der KI-Einführung begleitet. Was kostet das?“
2. Muss ich auf diese Mail sofort antworten? (Ja oder Nein, oder eine Dringlichkeit von 1 bis 10)
   Beispieltext: „Kurze Frage zu Freitag: Wir brauchen die Unterlagen bis morgen 10 Uhr, sonst platzt der Termin.“
3. Will diese Person kündigen? (Ja oder Nein)
   Beispieltext: „Ich überlege, mein Abo zu beenden, weil ich es kaum nutze.“

Teste unbedingt auch einen Gegenfall, zum Beispiel: „Ich will auf keinen Fall kündigen, ich liebe das Programm.“ Warum, erkläre ich bei den Grenzen. Dieser Auftrag macht den Test in einem Rutsch:

Nutze Laya, um diese fünf erfundenen Beispiele zu bewerten, und zeig mir die Ergebnisse als Tabelle mit Antwort und Sicherheit in Prozent:

1. Frage "Ist das ein echter Lead?": "Hallo, wir sind ein Team mit zwölf Leuten und suchen bis Ende des Monats jemanden, der uns bei der KI-Einführung begleitet. Was kostet das?"
2. Frage "Muss ich sofort antworten?": "Kurze Frage zu Freitag: Wir brauchen die Unterlagen bis morgen 10 Uhr, sonst platzt der Termin."
3. Frage "Will diese Person kündigen?": "Ich überlege, mein Abo zu beenden, weil ich es kaum nutze."
4. Frage "Will diese Person kündigen?": "Ich will auf keinen Fall kündigen, ich liebe das Programm."
5. Frage "Ist das ein echter Lead?": "Gewinnen Sie jetzt eine Reise! Klicken Sie hier."

Sag mir danach ehrlich, welche Antworten dich überzeugen, welche nicht, und warum.

Der Schwellenwert: wann Laya dich fragen soll

Der eigentliche Mehrwert ist die Sicherheitsangabe. Damit kann deine Automation entscheiden: Ist Laya sich sicher genug, handelt sie allein. Ist es unsicher, leitet sie die Sache an dich weiter, statt zu raten. Ein brauchbarer Startwert sind 80 Prozent: Alles darunter geht an dich. Das sagst du Claude so:

Wenn Laya sich bei einer Entscheidung unter 80 Prozent sicher ist, soll diese Entscheidung nicht automatisch ausgeführt werden. Dann leitest du sie mit einer kurzen Begründung an mich weiter. Nur bei 80 Prozent oder mehr darfst du die Antwort direkt verwenden. Weise mich bei jeder Weiterleitung darauf hin, welche Antwort Laya vermutet hat und wie sicher es war.

Ehrliche Grenzen

Das Reel nennt die Zahlen aus dem Vergleich des Entwicklers. Hier die Einordnung, damit du dich nicht auf falsche Versprechen verlässt:

• ⚡ Das Tempo gilt für Grafikkarten und Apple-Chips. Die 33 Millisekunden hat der Entwickler auf einer Grafikkarte gemessen. Auf einem normalen Prozessor dauert eine Antwort länger. Für dein Vorsortieren reicht das trotzdem, nur der Vergleich „achtmal schneller“ trifft dort nicht zu.
• 🎯 „Besser als das bezahlte Modell“ stimmt für einfache Entscheidungen im Test des Entwicklers. Die Trefferquote von 0,766 gegenüber 0,727 für das bezahlte Modell stammt von einer nachtrainierten Fassung. Das frisch installierte Modell lag bei diesen Entscheidungen laut README deutlich darunter. Laya ist also ein schneller Startpunkt, den du für deine Fälle nachtrainieren kannst, aber kein Selbstläufer.
• 📚 Bei sehr vielen Auswahlmöglichkeiten liegt das bezahlte Modell vorn. Mit mehr als etwa 20 Kategorien in einer einzelnen Frage fällt Laya laut Projekt deutlich ab. Halte deine Fragen bei Ja/Nein, wenigen Kategorien oder einer Zahl.
• 🚫 Verneinungen sind eine Schwachstelle. In den dokumentierten Beispielen hat Laya Sätze wie „Ich will nicht kündigen“ teils als Kündigung gewertet. Darum steht der Gegenfall in den Test-Fragen oben. Prüfe immer auch das Gegenteil.
• 🇩🇪 Deutsch geht, aber prüfe es. Das Modell versteht über 100 Sprachen, auf Englisch sind die Werte am besten belegt. Teste deshalb mit deinen echten deutschen Formulierungen.
• 🔐 Datenschutz: nur die Tatsache, dass die Daten auf deinem Rechner bleiben. Laya verarbeitet Text lokal und schickt ihn nicht an einen Anbieter. Nur das Modell wird beim ersten Start einmal heruntergeladen. Das ist keine Rechtsberatung und keine Aussage, dass du damit automatisch DSGVO-konform bist. Das klärst du für dein Business separat.

Für Selbermacher: der Terminal-Weg

Du willst es selbst in der Hand haben? Das Terminal ist das Textfenster, in dem du Befehle eintippst (auf dem Mac über die Spotlight-Suche, einfach „Terminal“ eingeben). Voraussetzung ist Python 3.10 oder neuer. Die Befehle stammen aus der offiziellen Anleitung. Erst die Installation:

python -m pip install laya

Danach kannst du direkt im Terminal einen ersten Test machen. Der Befehl bewertet einen Beispiel-Satz mit einer fertigen Fragenliste. Beim ersten Mal wird das Modell heruntergeladen:

laya "Mein Konto wurde zweimal belastet" --lang de --preset triage

Die Verbindung zu Claude (der MCP-Teil) richtest du am einfachsten mit dem Auftrag oben ein. Auf einem Intel-Mac braucht die Installation laut README bestimmte Versionen, auch das übernimmt Claude, wenn du es sagst.

Häufige Fragen

Und jetzt du

Füge die eine Zeile in Claude Code ein, lass die drei Beispiel-Fragen laufen und teste den Gegenfall. Danach weißt du in zehn Minuten, ob Laya für deine Automationen taugt. Schreib mir gern auf Instagram, was bei dir herauskam. ❤️

PS: Falls du über „Kommentiere LOKAL“ hierher gekommen bist – die DM kam von meinem selbstgebauten ManyChat-Ersatz. Wie du dir das baust, zeige ich dir in meiner kostenlosen Community: hier geht's direkt zum Video. 😉