Hallo zusammen,
ich versuche seit zwei Wochen, einen Sprachassistenten komplett lokal auf einem Raspberry Pi 5 zum Laufen zu bringen, ohne Cloud und ohne Konto beim Hersteller. Die Spracherkennung läuft inzwischen ordentlich, aber sobald ein Sprachmodell die Antworten formulieren soll, dauert es zehn Sekunden, bis etwas kommt. Für die Frage nach der Uhrzeit ist das zu lang.
Hat jemand von euch eine Kombination gefunden, die auf dem Pi flüssig läuft? Ich überlege, das Sprachmodell auf einen alten Laptop im Keller auszulagern und den Pi nur für Mikrofon und Lautsprecher zu nutzen. Erfahrungen, Sackgassen, Tipps? Alles willkommen.
Gruß, Markus
Sprachassistent lokal auf dem Raspberry: wer hat es geschafft?
Moderator: reinhold