Αναταραχή στις αγορές προκαλεί το AI μοντέλο της κινεζικής DeepSeek

[Federacion]

1 hour ago, brightblade said:

και νέο μοντέλο απο deepseek...Janus! για εικόνες!

https://github.com/deepseek-ai/Janus

ρε παιδια απ' αυτό το github πως κατεβάζουμε το exe;

Κλασική και μόνιμη απορία 35 χρόνια με υπολογιστές...

[brightblade]

13 minutes ago, Federacion said:

ρε παιδια απ' αυτό το github πως κατεβάζουμε το exe;

Κλασική και μόνιμη απορία 35 χρόνια με υπολογιστές...

δεν υπάρχει exe, είναι ο κώδικας. Αν θες να το δοκιμάσεις πηγαινε  εδώ, αλλα επειδη ειναι free demo σε πλατφόρμα για μοντέλα ΑΙ, θα περιμένεις την σειρά σου και χαλαρά (αργουτσικα, αναλόγως την κίνηση)

https://huggingface.co/spaces/deepseek-ai/JanusFlow-1.3B

https://huggingface.co/spaces/blanchon/JanusPro

Επεξ/σία Δευτέρα στις 10:01 μμ από brightblade

[Federacion]

2 minutes ago, brightblade said:

δεν υπάρχει exe, είναι ο κώδικας. Αν θες να το δοκιμάσεις πηγαινε  εδώ, αλλα επειδη ειναι free demo σε πλατφόρμα για μοντέλα ΑΙ, θα περιμένεις την σειρά σου και χαλαρά (αργουτσικα, αναλόγως την κίνηση)

https://huggingface.co/spaces/deepseek-ai/JanusFlow-1.3B

ok, τον κώδικα πως να τον χρησιμοποιήσω όμως;

[fast8]

18 minutes ago, Federacion said:

ρε παιδια απ' αυτό το github πως κατεβάζουμε το exe;

Κλασική και μόνιμη απορία 35 χρόνια με υπολογιστές...

Συχνά δεν έχει εκτελέσιμο. Θα πρέπει να κατεβάσεις τον κώδικα και με τα κατάλληλα εργαλεία να το κάνεις compile.

Γενικά, αν υπάρχουν εκτελέσιμα αρχεία το link θα είναι στην δεξιά στήλη στο group που λέει Releases. Εκεί κοιτάς.

Στο συγκεκριμένο project, δεν υπάρχει εκετελέσιμο, δεν θα είχε και νόημα.

Επεξ/σία Δευτέρα στις 10:06 μμ από fast8

[brightblade]

6 minutes ago, Federacion said:

ok, τον κώδικα πως να τον χρησιμοποιήσω όμως;

Έχει οδηγίες, στην παράγραφο 2: Model Download και κάτω

[lucanis]

2 ώρες πριν, brightblade είπε

και νέο μοντέλο απο deepseek...Janus! για εικόνες!

https://github.com/deepseek-ai/Janus

Χαμός!

[razimar]

Aυτό που πρέπει να προβληματιστεί κανείς, είναι το πόσο μπροστά είναι οι Κινέζοι,
που είναι τοσο άνετοι και το αφησαν ανοικτού κώδικα;

Αυτό ουσιαστικά έχει τρομοκρατήσει τις αγορές.
Είναι ένα είδος επίδειξης ισχύος και το πετύχανε.

[lucanis]

20 λεπτά πριν, razimar είπε

Aυτό που πρέπει να προβληματιστεί κανείς, είναι το πόσο μπροστά είναι οι Κινέζοι,
που είναι τοσο άνετοι και το αφησαν ανοικτού κώδικα;

Αυτό ουσιαστικά έχει τρομοκρατήσει τις αγορές.
Είναι ένα είδος επίδειξης ισχύος και το πετύχανε.

Τρέχω τώρα τοπικά ένα image generation.
Εντυπώσεις σε λίγο.

[ADHD]

Μονο θετικο μου φαινεται για την αναπτυξη του ΑΙ γενικα, καποιοι ειστε τοσο απελπισμενοι "να πεσει η Αμερικη" και η δυση γενικα για ιδεοληπτικους λογους που πραγματικα χανετε το δασος εντελως. Συγχαρητηρια στην Deepseek για τα optimizations που εκανε και αυτο που πετυχε αλλα μιλαμε για ενα LLM εκπαιδευμενο και παλι σε nvidia καρτες, η βομβα ισως θα ηταν αν ειχε εκπαιδευτει με κινεζικες καρτες.

Κανετε λες και ανακαλυψαν καποια εξωγηινη τεχνολογια, οταν κοπασει λιγο ολο αυτο και επικρατησει η λογικη θα καταλαβετε οτι πραγματικα μονο καλο ειναι για την αναπτυξη του ΑΙ γενικοτερα. Το μεγαλο προβλημα θα ηταν η στασιμοτητα που θα οδηγησει σε μειωση της ζητησης (κατι πολυ πιθανο να γινει και συντομα μαλιστα), ναι εκει να μιλησουμε για φουσκες που σιγα σιγα σκανε κλπ. Αν η deepseek το πετυχε αυτο με inferior hardware τοτε φανταστείτε τι μπορεις να κανεις με καλυτερο, και ποιος διαθετει το καλυτερο? η Αμερικη μεσω της nvidia, οποτε ας μην βιαζομαστε να βγαλουμε συμπερασματα.

Οποιοδηποτε breakthrough απο οποια μερια του κοσμου και αν ερχεται ειναι θετικο, αλλη μια φορα συγχαρητηρια στην deepseek λοιπον που το εκανε και open source μαλιστα.

[MikeKata]

7 hours ago, VaggD said:

απλά τα  παραφούσκωσαν για να κάνουν μεγαλύτερη ζημιά στhn αμερικανική οικονομία.

Έχουμε κάποια πηγή για αυτό; Γιατί όσοι το εξετάζουν (μην ξεχνάμε ότι είναι open source), έχουν διαφορετική άποψη.

Π.χ:

Ιδρυτής της StabilityAI:

Το HugginFace το αναπαράγει από το 0:

https://github.com/huggingface/open-r1

Άλλοι έκαναν ήδη replicate το training του:

7B Model and 8K Examples: Emerging Reasoning with Reinforcement Learning is Both Effective and Efficient

 

[VaggD]

22 minutes ago, MikeKata said:

Έχουμε κάποια πηγή για αυτό; Γιατί όσοι το εξετάζουν (μην ξεχνάμε ότι είναι open source), έχουν διαφορετική άποψη.

Π.χ:

Ιδρυτής της StabilityAI:

Το HugginFace το αναπαράγει από το 0:

https://github.com/huggingface/open-r1

Άλλοι έκαναν ήδη replicate το training του:

7B Model and 8K Examples: Emerging Reasoning with Reinforcement Learning is Both Effective and Efficient

 

Είναι ακόμα νωρίς και σχετικά δύσκολο να εκτιμηθεί με ακρίβεια το ενεργειακό κόστος που απαιτείται. Ωστόσο, ακόμα και αν το κόστος ήταν 2Χ αντί για Χ, όταν ο ανταγωνισμός χρειάζεται 100Χ, η διαφορά είναι πρακτικά αμελητέα. Το deepSeak θα έχει θετικό αντίκτυπο ώστε να σκάσει η φούσκα ΑΙ και να ασχοληθούν σοβαρά μόνο εταιρείες και επενδυτές που γνωρίζουν.

[ntopas]

Ερώτηση πριν την "τούφα" , οκ φαίνεται πως είναι απίστευτα cost effective, σε σχέση με αυτά που ξέραμε μέχρι τώρα...

Αλλά πάλι εφόσον υπάρχει ανταγωνισμός ποιος θα τρέχει τα περισσότερα-καλύτερα ποιοτικότερα μοντέλα κλπ δεν θα συνεχίσουν "όλοι"να ξοδεύουν ένα σκασμό "πράσινα" για GPUs της Nvidia για να "περάσουν" τους ανταγωνιστές;

 

Παιδιά παρακαλώ μην αναφέρετε την Ναυτεμπορική σαν σούπερ ντουπερ site για οικονομία-αγορές...

 

 

[michael92]

12 ώρες πριν, MikeKata είπε

Υπάρχει ήδη στο library του Ollama για εύκολη πρόσβαση αν θες να το δοκιμάσεις τοπικά.

1. Κατεβάζεις και εγκαθιστάς το Ollama.

https://github.com/ollama/ollama

ή εδώ

https://ollama.com/

2. (Optional) Κατέβασε ένα front end αν δε θες να το τρέχεις από το command line (π.χ Open WebUI)

https://github.com/open-webui/open-webui

3. Κατεβάζεις το Deepseek R1 (ή όποιο άλλο μοντέλο θες). Διάλεξε την έκδοση που χωράει στη μνήμη της GPU σου, το full μοντέλο αποκλείεται να τρέξει σε consumer GPU.

https://ollama.com/library/deepseek-r1

Επίσης, όσοι έχουν σύστημα με αρκετή RAM, μπορούν να τρέξουν μεγαλύτερα μοντέλα στη CPU. Είναι εκνευριστικά αργό βέβαια. 

5 ώρες πριν, Hetfield είπε

Περα απο τον τροπο που μιλαω, οταν μιλατε για φουσκες και αλλα ψεκασμενα να ειστε τουλαχιστον σε θεση να το αιτιολογησετε.

Ποια φουσκα;

Η αγορα του AI εχει ακομα πολυ δρομο για να αναπτυχθει κι η nvidia πουλαει σαν τρελη.

Οσο η αγορα διευρυνεται θα εμφανιστουν ανταγωνιστες. Λογικο.

Οι shorters στο χρηματιστηριο ειναι μια φουσκα απο μονες τους, κι αν κοιταξεις αντιστοιχα σεναρια (π.χ. tesla-xpeng) ειχαμε την ιδια ακριβως ιστορια. Τους shorters να μετακινουνται απο την tesla στην xpev κι οταν η tesla μονοπωλησε περεταιρω την αγορα μαντεψε τι εγινε.

Η φούσκα έχει να κάνει καθαρά με το ανύπαρκτο ROI. Αν κάτι κατάφερε το deepseek είναι να γκρεμίσει οποιαδήποτε ελπίδα να βγει κέρδος από το AI μεσοπρόθεσμα. Η meta π.χ ανακοίνωσε ότι θα αγοράσει 1,3 εκατομμύρια GPUs. Μήπως θα ήταν καλύτερη επιλογή να αγοράσει το 1/10; 

23 λεπτά πριν, ntopas είπε

Ερώτηση πριν την "τούφα" , οκ φαίνεται πως είναι απίστευτα cost effective, σε σχέση με αυτά που ξέραμε μέχρι τώρα...

Αλλά πάλι εφόσον υπάρχει ανταγωνισμός ποιος θα τρέχει τα περισσότερα-καλύτερα ποιοτικότερα μοντέλα κλπ δεν θα συνεχίσουν "όλοι"να ξοδεύουν ένα σκασμό "πράσινα" για GPUs της Nvidia για να "περάσουν" τους ανταγωνιστές;

Το scaling των LLMs έχει χτυπήσει εδώ και καιρό diminishing returns. Αυτό δεν άλλαξε με το deepseek. Η OpenAI μπορεί να αντιγράψει το deepseek και να ρίξει το κόστος κατά 90%, όμως δεν θα μπορέσει να παρουσιάσει ένα μοντέλο που να είναι πολύ καλύτερο στο ίδιο κόστος. Επίσης, δεν βλέπουμε τρελά άλματα στο hardware που να δικαιολογούν το ύψος των επενδύσεων. 

[VaggD]

48 minutes ago, ntopas said:

Ερώτηση πριν την "τούφα" , οκ φαίνεται πως είναι απίστευτα cost effective, σε σχέση με αυτά που ξέραμε μέχρι τώρα...

Αλλά πάλι εφόσον υπάρχει ανταγωνισμός ποιος θα τρέχει τα περισσότερα-καλύτερα ποιοτικότερα μοντέλα κλπ δεν θα συνεχίσουν "όλοι"να ξοδεύουν ένα σκασμό "πράσινα" για GPUs της Nvidia για να "περάσουν" τους ανταγωνιστές;

 

Παιδιά παρακαλώ μην αναφέρετε την Ναυτεμπορική σαν σούπερ ντουπερ site για οικονομία-αγορές...

 

 

Cost effective == άρα με πλ λιγότερες GPUs δημιούργησαν πλ καλύτερο μοντέλο. Γι αυτό και η μετοχή της nvidia έπεσε σχεδόν 20%.

[michael92]

Πάντως τα quantized models παραμένουν απογοητευτικά: