Η NVIDIA προσπαθεί να ανταποκριθεί στη ζήτηση για AI GPUs

[Evangelos Anagnostou]

Ακόμα περιμένω την 3080 κάτω από 500 ευρώ εγω 💀

[pcos]

ελπιζω και ευχομαι η σειρα 5χχχ να εχει πολυ παραπανω μνηνη, 48 και βαλε!

[teodoreh]

2 ώρες πριν, pcos είπε

ελπιζω και ευχομαι η σειρα 5χχχ να εχει πολυ παραπανω μνηνη, 48 και βαλε!

Θα σου πρότεινα να ξεκινήσεις να κατασκευάζεις μόνος σου GPUs

Επεξ/σία 25 Μαΐου 2023 από teodoreh

[StavrosD]

12 ώρες πριν, pcos είπε

ελπιζω και ευχομαι η σειρα 5χχχ να εχει πολυ παραπανω μνηνη, 48 και βαλε!

Οι κάρτες γραφικών με 48GB VRAM  συνήθως κοστίζουν πάνω από 5000€ (αρχική τιμή καταλόγου σχεδόν 10Κ).

Θα είναι απλησίαστες για τον ιδιώτη.

PS. Και εγώ μαζί σου. Έχω 1 x 3090 και 1 x A5000. Σκέφτομαι μήπως πάρω άλλες 2 και τις βάλω ανά ζευγάρι με NVLINK. Ίσως του χρόνου, εκτιμώ ότι θα έχουν πέσει κάτω από τα 300€ έκαστη.

Επεξ/σία 25 Μαΐου 2023 από StavrosD

[Diavolos666]

Μη του πει κανείς ότι το stable diffusion τρέχει και σε 4GB VRam γιατί τους έχω ικανούς να βγάλουν και τέτοιες. Θα γίνει χαμός εδώ στο insomnia, κάθε φορά που βγαίνει ανακοίνωση για κάρτα με 8GB Vram αναφουντώνουν όλοι σαν το μελίσσι!

[StavrosD]

Υπάρχουν εκδόσεις του stable diffusion που τρέχουν και με 4GB VRAM. Άλλες βέβαια θέλουν τουλάχιστον 16GB.

Επιπλέον υπάρχουν τεχνικές που χρησιμοποιούν τον NVME δίσκο παράλληλα με την GPU για inference, καθώς και τεχνικές που χρησιμοποιούν την RAM. Η ταχύτητα είναι σημαντικά χαμηλότερη σε σχέση με την GPU αλλά τουλάχιστον τρέχει και σε  προσιτό  υπολογιστή.