Dieser Bereich kann Inhalte enthalten, die nicht für alle Nutzer geeignet sind. Dazu können unter anderem Texte, Medien oder Diskussionen gehören, die als beleidigend, extremistisch, gewaltbezogen oder anderweitig belastend empfunden werden. Wenn du solche Inhalte nicht sehen möchtest, nutze bitte die jeweiligen Filter- und Meldeoptionen der Plattform oder meide entsprechende Threads/Communities.
Hm, I don’t see the harm in powering local models with solar.
Depends. Is it solar energy that started production to power these models? Great! If not, then you’re still consuming power and the difference will have to be made somewhere, likely by burning more fossil fuels.
Oh yeah, I mean my own personal solar modules in my backyard. I agree it’s not that easy to say “solar exists, checkmate doubters”, that would be silly.
OK, that is fine. I’ve seen a lot of people saying stuff like “Me mining crypto doesn’t matter because I live next to a wind farm” so I’m a bit wary.
Well that is an alternative. But I bet each query to a local 27b model takes less energy anyway than the same query to Claude Opus or Fable in some data centre. So it is also a case of improving energy efficiency by running smaller models.