Deze zelfgemaakte robot wordt in realtime „high“

Een hobbyist op de LocalLLaMA-community van Reddit, https://old.reddit.com/r/LocalLLaMA/comments/1u9a17y/my_suitcase_robot_gets_high_now_off_a_real_gas/ heeft misschien wel de meest onverwachte LLM-integratie gebouwd die we dit jaar hebben gezien: een kofferrobot genaamd Sparky die steeds... onsamenhangender wordt wanneer hij wordt blootgesteld aan rook. Dit gebeurt niet via vooraf geprogrammeerd gedrag, maar door echte sensorgegevens rechtstreeks in de steekproefparameters van het model in te voeren.

Het project is gepost door Reddit-gebruiker u/CreativelyBankrupt. In wezen maakt het gebruik van een MQ-2-gassensor (momenteel $7,99 op Amazon) die in de behuizing van de robot is gemonteerd. Elke 500 milliseconden meet de sensor de omgevingslucht ten opzichte van een adaptieve referentiewaarde voor schone lucht en zet de aanwezigheid van rook om in een fasewaarde tussen 0 en 10. Die fasewaarde beïnvloedt vervolgens in realtime de manier waarop het LLM tekst genereert. Zo stijgt bijvoorbeeld de temperatuur van 1,0 naar ongeveer 1,6, stijgt top_p van 0,95 naar 0,99 en springt top_k van 64 naar 120 naarmate het rookniveau toeneemt.

Wanneer dat gebeurt, wordt Sparky’s woordkeuze beperkter en gaat de robot over op tokens met een lagere waarschijnlijkheid, waardoor de output ‘ruiser’ wordt — omdat de live-sampler precies hetzelfde effect heeft als hoge bemonsteringsparameters op elk taalmodel. Elk „hoog“ antwoord wordt vers gegenereerd, zodat geen twee reacties hetzelfde zijn. Een fasegebonden aanpassing van het persona zorgt ervoor dat het gedrag duidelijk naar voren komt (zonder dat de robot daadwerkelijk zijn toestand aankondigt).

Er is ook fysieke feedback. Sparky vertoont hangende ogen, een lichte sleur in de spraakuitvoer en een display dat in fase 10 overgaat in een volledig rook- en plasma-effect. Dit blijft zeven minuten aanhouden voordat het weer afneemt.

De maker is openhartig over de beperkingen van de hardware — de MQ-2 is een VOC-sensor, wat betekent dat wierook of een sigaret dezelfde reactie zou uitlokken als cannabis, en dat het apparaat geen onderscheid kan maken tussen verschillende rookbronnen.

De video heeft op het moment van schrijven meer dan 1.100 upvotes op Reddit. Bekijk de video hieronder:

My suitcase robot gets high now off a real gas sensor wired straight into the LLM sampler. Smoke raises temperature/top_p/top_k live, so his speech genuinely gets loopier and never repeats.
by u/CreativelyBankrupt in LocalLLaMA