De video die we onderzochten ging over Colibrì, een lokaal runtime- en compressieproject voor grote taalmodellen. De video werd gebruikt als aanleiding om te bepalen of het systeem op de machine van Hive haalbaar was.
Wat de video claimde
- Colibrì is bedoeld voor CPU- en disk-backed inference.
- De besproken modelroute was ongeveer 384 GB groot in int4, met optionele MTP-shards.
- De workflow was vooral tekstgericht.
- Vision, video, geluid en spraak waren niet bewezen als native multimodale mogelijkheden van het besproken model.
Wat de live audit aantoonde
De installatie en modelbestanden konden technisch worden gecontroleerd, maar de beschikbare RAM op de machine was onvoldoende voor een veilige inference-test. Daarom is de runtime later weer verwijderd, inclusief modeldata, cache, service en tijdelijke firewallregel. Dat was een verstandige grens: een complete installatie is niet hetzelfde als een bruikbare of veilige productie-inference.
Verdict
De video was een interessante technische demonstratie, maar de lokale machine voldeed niet aan de RAM-poort voor een betrouwbare test. Hardwarecapaciteit moet vóór installatie van een model van honderden gigabytes worden gecontroleerd.