Προσθήκη σχολίου (77 σχόλια)

Η OpenAI έχει αναπτύξει μια εσωτερική κλίμακα για την παρακολούθηση της προόδου των γλωσσικών μοντέλων προς την τεχνητή γενική νοημοσύνη (AGI), σύμφωνα με ανακοίνωση της εταιρείας στο Bloomberg.

Η κλίμακα αποτελείται από πέντε επίπεδα, με τα σημερινά chatbots να βρίσκονται στο Επίπεδο 1. Η OpenAI ισχυρίζεται ότι πλησιάζει το Επίπεδο 2, το οποίο ορίζεται ως ένα σύστημα ικανό να επιλύει βασικά προβλήματα στο επίπεδο ενός ατόμου με διδακτορικό.

Τα επόμενα επίπεδα περιλαμβάνουν πιο προηγμένες ικανότητες: το Επίπεδο 3 αναφέρεται σε AI που μπορεί να εκτελεί ενέργειες εκ μέρους του χρήστη, το Επίπεδο 4 σε AI ικανό να δημιουργεί νέες καινοτομίες, και το Επίπεδο 5, το τελικό στάδιο προς την AGI, σε AI που μπορεί να εκτελεί το έργο ολόκληρων οργανισμών.

Η OpenAI έχει προηγουμένως ορίσει την AGI ως "ένα υψηλά αυτόνομο σύστημα που ξεπερνά τους ανθρώπους στις περισσότερες εργασίες οικονομικής φύσης". Η δομή της εταιρείας επικεντρώνεται στην επίτευξη της AGI, και ο τρόπος που η OpenAI ορίζει την AGI είναι καίριας σημασίας.

Η εταιρεία έχει δηλώσει ότι αν η προσπάθεια κάποιας άλλης εταιρίας, που θα χαρακτηρίζεται από ταύτιση αξιών με αυτές της OpenAI και έμφαση στην ασφάλεια, πλησιάσει στην κατασκευή AGI πριν από την OpenAI, η εταιρεία δεσμεύεται να μη την ανταγωνιστεί και να αφιερώσει όλους τους πόρους της στην υποστήριξή του.

Παρόλα αυτά, η AGI παραμένει μακρινός στόχος, απαιτώντας τεράστιες επενδύσεις σε υπολογιστική ισχύ. Οι εκτιμήσεις για το χρονοδιάγραμμα επίτευξης AGI ποικίλλουν σημαντικά, με το Σαμ Άλτμαν, διευθύνοντα σύμβουλο της OpenAI, να προβλέπει τον Οκτώβριο του 2023 ότι θα απαιτηθούν πέντε χρόνια περίπου.

Η ανακοίνωση της κλίμακας συμπίπτει με τη συνεργασία της OpenAI με το Εθνικό Εργαστήριο του Λος Άλαμος για τη διερεύνηση της ασφαλούς χρήσης προηγμένων μοντέλων AI στη βιοεπιστημονική έρευνα. Στόχος είναι η δημιουργία προτύπων αξιολόγησης για μοντέλα AI.

Η κατάργηση της ομάδας ασφαλείας της OpenAI τον Μάιο και η αποχώρηση σημαντικών στελεχών έχουν εγείρει ανησυχίες σχετικά με την προτεραιότητα της ασφάλειας στην εταιρεία.

Η OpenAI δεν έχει αποκαλύψει λεπτομέρειες για τον τρόπο αξιολόγησης των μοντέλων στην εσωτερική κλίμακα. Ωστόσο, η εταιρεία παρουσίασε πρόσφατα ένα ερευνητικό έργο που χρησιμοποιεί το μοντέλο GPT-4, το οποίο θεωρείται ότι επιδεικνύει νέες συλλογιστικές δεξιότητες που προσεγγίζουν αυτές του ανθρώπου.

Η κλίμακα θα μπορούσε να βοηθήσει στην παροχή ενός αυστηρού ορισμού της προόδου, αντί αυτή να παραμένει ανοιχτή σε διάφορες ερμηνείες. Κάτι τέτοιο είναι ιδιαίτερα σημαντικό δεδομένων των αντικρουόμενων δηλώσεων στελεχών της OpenAI σχετικά με τις ικανότητες των υφιστάμενων μοντέλων.

  • Like 1
  • Sad 1