• 3 Posts
  • 69 Comments
Joined 3 years ago
cake
Cake day: April 27th, 2024

help-circle
  • Ich hab vor ein paar Monaten das hier geschrieben (well… Mit LLM Unterstützung… Ich hab auch nur begrenzt Zeit für so was ^^)

    https://github.com/charludo/hass-closest-intent

    Das macht die Spracheingabe fuzzy auf die in HomeAssistant hinterlegten intents. War für mich ein Unterschied wie Tag und Nacht.

    Spracherkennung ist heute auch ohne teure Hardware echt gut möglich. Habe jetzt parakeet-ultra am laufen auf einem NUC mit NPU, das sind 90ms für einen durchschnittlichen Befehl bei 10% Wortfehlerrate. Auch ohne NPU, rein auf CPU, war das gleiche in ca. 220ms drin.

    Das größte Problem sind die Satelliten und wakeword Erkennung. Ich habe aktuell ein Raummikro mit nem RP4 dran… Das geht schon in Ordnung. Ich schiele allerdings hier drauf:

    https://www.seeedstudio.com/ReSpeaker-XVF3800-4-Mic-Array-With-XIAO-ESP32S3-p-6489.html

    Da geht die gleiche software drauf (LVA von HA). Außerdem logge ich gerade alle Aktivierungen mit (falsche und richtige), um dann hoffentlich in ein paar Wochen ein eigenes Wakeword trainieren zu können, was besser auf uns und unseren Raum passt. Ist also schon noch Arbeit alles.

    (Vom Handy aus, wo du per Button startest, ist es GAR kein Problem. 100% auf Anhieb verstanden immer. Oh man, ich hätte echt gern so eine Starfleet-Badge.)

    LLM hat für mich in HA nix zu suchen. Das ist viel, viel zu langsam. Selbst mit toller Hardware und einem kleinen Modell. Und es ist völlig unnötig.

    Insgesamt macht das ganze Projekt aber echt Laune. Mir fallen am laufenden Band neue Sachen ein, die ich gerne fragen können würde, und dann kann man sie einfach adden. (Ist heute Müll? Spiele x aus meiner (!!!) Musikbibliothek. Mach den Fernseher heller. Was steht heute an? Wie windig ist es gerade? Ist <Freundin> bald zuhause? Spiel die Nachrichten von WDR3, die Amazon/Alexa aus irgendeinem Grund nicht mehr anbietet.)




  • Alexa raus werfen.

    Ich habe endlich ein funktionierendes HomeAssistant Voice setup (0,2s im Mittel von Sprechen bis Antwort wird vorgelesen, komplett lokales Setup, kein LLM, Fehlerquote beim Ausführen von Befehlen unter 1% :D), mit einem Haufen custom Kleber, weil mir HAs Voice Assistant so gar nicht zusagt.

    Als letztes Hindernis war noch die Echo Wall Clock im Einsatz. Irgendwie mag die niemand, wir finden sie fantastisch, um laufende Timer anzuzeigen.

    Lange Rede kurzer Sinn: Amazon authenfiziert nur die Uhr gegenüber dem Echo, nicht aber in die andere Richtung 😂 Heißt die Uhr ließ sich ohne Probleme kapern und hängt seit heute Morgen an HomeAssistant.










  • An LLM is a stateless stochastic function ran over your prompt (plus whatever system prompt) as input.

    If you genuinely believe that the LLM is conscious, that means every time the function stops running (i.e. stops producing output tokens), the consciousness ends.

    This is far closer to death than to, say, sleep, because prompting again doesn’t “wake” the LLM, it just runs the function again, from the top; as if a digital twin was given a transcript of the previous conversation and asked to take it from here.

    (Obviously, “murder” was somewhat tongue-in-cheek, and this doesn’t even remotely meet any legal definition of murder. I was mostly poking fun at people who think LLMs are alive, without thinking through the implications. Personally, I think the idea that LLMs are alive/conscious/sentient is very often linked to not understanding that LLMs are not, in fact, a constantly-running ghost in the shell, thinking about and remembering things in the background.)







  • I have a lot of custom stuff, esp. regarding HomeAssistant integrations. But my favorite “stupid/not stupid if it works” solution is the following:

    I have an LG TV and attached Nvidia Shield. The Shield is the only input we ever use on the TV, and since its remote also can turn the TV on/off and control volume, its all we need. Which is pretty neat, only one remote.

    Except for image settings (i.e. proper bright picture during the day, different less bright image mode during the night). I don’t want to keep the extra remote on the couch just for that, but unfortunately, these settings are not exposed via HDMI CEC.

    They are, however, exposed via a web API on LG TVs. So my utterly stupid solution is this:

    • install quick actions app on the shield
    • reconfigure Netflix button on the shield remote to open quick actions popup
    • add two quick actions, night and day, that curl simple HTTP endpoints on a VM I set up
    • on the VM, a simple flask server listens, and then sends the (too complex for the quick actions app) API request to the TV.

    (I feel the need to add: the TV is in an isolated subnet and has never once communicated with the internet, and it will damn well die an internet virgin.)

    Anyways, this has been working flawlessly for 2+ years! I also have toggles in HA for the same endpoints, but honestly, never use them. It’s so nice to just be able to toggle the image via remote.