Dieser Bereich kann Inhalte enthalten, die nicht für alle Nutzer geeignet sind. Dazu können unter anderem Texte, Medien oder Diskussionen gehören, die als beleidigend, extremistisch, gewaltbezogen oder anderweitig belastend empfunden werden. Wenn du solche Inhalte nicht sehen möchtest, nutze bitte die jeweiligen Filter- und Meldeoptionen der Plattform oder meide entsprechende Threads/Communities.
TBH, smaller models run pretty well on consumer grade hardware and are good enough for minor tasks like chewing through docs, analysing bank statements or interpreting images. At least the use cases I use it for.
I am playing with olmo-3:7b and I found that my PC gives me 9 tokens per second.
When I looked up a graphics card that could handle it, I found out that it one would only cost me like 0.4 Monero, which I thought was going to be a lot worse.