Η υπερβολική χρήση συγκεκριμένων λέξων δημιουργεί υποψίες ότι το ChatGPT έχει χρησιμοποιηθεί σε χιλιάδες επιστημονικές έρευνες

[Snoob]

Λέξεις όπως "αξιέπαινος" και "σχολαστικός" εντοπίστηκαν στην ανάλυση εκατομμυρίων άρθρων, σε μια προσπάθεια αναζήτησης ασυνήθιστων όρων που χρησιμοποιούνται υπερβολικά από μοντέλα τεχνητής νοημοσύνης.

Ο βιβλιοθηκονόμος Άντριου Γκρέι πραγματοποίησε μια "πολύ απρόσμενη" όπως τη χαρακτηρίζει ο ίδιος, ανακάλυψη. Ανέλυσε πέντε εκατομμύρια επιστημονικές μελέτες οι οποίες δημοσιεύτηκαν μέσα στο 2023 και διαπίστωσε μια ξαφνική αύξηση στη χρήση συγκεκριμένων λέξεων, όπως "σχολαστικά" (άνοδος 137%), "πολυσύνθετα" (117%), "αξιέπαινος" (83%) και "σχολιαστικός" (59%). Ο ίδιος, θεωρεί πως μόνο μία ερμηνεία υπάρχει για αυτή την άνοδο: δεκάδες χιλιάδες ερευνητές χρησιμοποιούν το ChatGPT -ή άλλα αντίστοιχα Μεγάλα Γλωσσικά Μοντέλα τεχνητής νοημοσύνης- προκειμένου να γράψουν τα κείμενά τους ή τουλάχιστον να τα "χτενίσουν".

Yπάρχουν, μεταξύ άλλων, και περιπτώσεις που είναι καταφανές το τι έχει συμβεί. Ομάδα Κινέζων επιστημόνων δημοσίευσε στις 17 Φεβρουαρίου μελέτη σχετικά με τις μπαταρίες λιθίου. Η μελέτη -η οποία δημοσιεύτηκε σε εξειδικευμένο περιοδικό- ξεκινά ως εξής: "Βεβαίως, ορίστε μια πιθανή εισαγωγή για το θέμα σας: Οι μπαταρίες λιθίου συνιστούν πολλά υποσχόμενους υποψηφίους για..." Οι συγγραφείς προφανώς ζήτησαν από το ChatGPT μια εισαγωγή και κατά λάθος την αντέγραψαν κατά λέξη, μαζί με την εισαγωγική φράση που χρησιμοποιεί το μοντέλο τεχνητής νοημοσύνης για να παρουσιάσει τα αποτελέσματά του. Σε άλλο άρθρο, δημοσιευμένο από Ισραηλινούς ερευνητές στις 8 Μαρτίου, διαβάζει κανείς τα εξής: "Συμπερασματικά, η διαχείριση διμερών ιατρογενών Λυπάμαι πολύ, όμως δεν έχω πρόσβαση σε πληροφορίες πραγματικού χρόνου ή συγκεκριμένα δεδομένα ασθενών, καθώς είμαι ένα γλωσσικό μοντέλο τεχνητής νοημοσύνης". Λίγους μήνες νωρίτερα, τρεις Κινέζοι επιστήμονες δημοσίευσαν ένα απίθανο σκίτσο ποντικού με κάτι που παραπέμπει σε γιγάντιο πέος, εικόνα την οποία δημιούργησε κάποιο μοντέλο τεχνητής νοημοσύνης, για μελέτη με θέμα τα πρόδρομα σπερματικά κύτταρα. 

Ο Άντριου Γκρέι εκτιμά ότι τουλάχιστον 60.000 επιστημονικές έρευνες (ποσοστό άνω του 1% εκείνων που αναλύθηκαν το 2023) συντάχθηκαν με τη βοήθεια του ChatGPT -εργαλείου που κυκλοφόρησε στα τέλη του 2022- ή κάτι αντίστοιχου. Ο ίδιος θεωρεί πως οι περιπτώσεις όπου η τεχνητή νοημοσύνη αναλαμβάνει τη σύνταξη ολόκληρου του κειμένου είναι σπάνιες, και στις περισσότερες περιπτώσεις χρησιμοποιείται θεμιτά, προκειμένου να "χτενίσει" το κείμενο, να αναζητήσουν τυπογραφικά λάθη και να διευκολύνουν τη μετάφραση στα Αγγλικά, όμως υπάρχει και μια μεγάλη γκρίζα ζώνη, όπου ορισμένοι επιστήμονες επαφίενται στο ChatGPT, χωρίς να διασταυρώνουν τα αποτελέσματα. Το πρόβλημα είναι πως, επί του παρόντος, τα επιστημονικά περιοδικά δεν υποχρεώνουν τους συγγραφείς μιας δημοσίευσης να δηλώσουν κατά πόσο χρησιμοποίησαν το ChatGPT, επομένως η διαφάνεια του όλου συστήματος πάσχει.

Τα μοντέλα τεχνητής νοημοσύνης καταφεύγουν σε ορισμένες λέξεις υπερβολικά, όπως κατέδειξε ομάδα με επικεφαλής τον Τζέιμς Ζου, στο Πανεπιστήμιο του Στάνφορντ. Οι λέξεις αυτές τείνουν να είναι όροι με θετικούς συνειρμούς, όπως αξιέπαινος, διεξοδικός, πολυσύνθετος, καινοτόμος και ευέλικτος. Ο Ζου και οι συνάδελφοί του ήδη από το Μάρτιο προειδοποιούσαν ότι ακόμη και αξιολογητές επιστημονικών μελετών κατέφευγαν σε αυτά τα προγράμματα προκειμένου να συντάξουν τις αξιολογήσεις τους, πριν τη δημοσίευση των ερευνών. Η ομάδα του Πανεπιστημίου του Στάνφορντ ανέλυσε τις αξιολογήσεις μελετών που παρουσιάστηκαν σε δύο διεθνή συνέδρια τεχνητής νοημοσύνης και διαπίστωσαν ότι η πιθανότητα εμφάνισης της λέξης διεξοδικός είχε αυξηθεί 35 φορές.

Η ομάδα του Ζου, αντίθετα, δεν εντόπισε σημαντικά ίχνη του ChatGPT στις διορθώσεις που πραγματοποιήθηκαν από έγκυρες περιοδικές εκδόσεις του ομίλου Nature. Η χρήση του ChatGPT συνδεόταν με αξιολογήσεις χαμηλότερου επιπέδου. "Το θεωρώ πραγματικά ανησυχητικό", εξηγεί ο Γκρέι. "Εφόσον ξέρουμε ότι η χρήση αυτών των εργαλείων για τη σύνταξη αξιολογήσεων παράγει αποτελέσματα χαμηλότερης ποιότητας, οφείλουμε να αναλογιστούμε τι σημαίνει η χρήση τους για τι σύνταξη ερευνών". Ένα χρόνο μετά την κυκλοφορία του ChatGPT, ένας στους τρεις επιστήμονες αναγνώριζε ότι είχαν χρησιμοποιήσει το εργαλείο αυτό προκειμένου να γράψουν τις έρευνές τους, σύμφωνα με έρευνα του περιοδικού Nature.

Ελάχιστες έρευνες δηλώνουν ρητά αν έχουν προσφύγει σε μοντέλο τεχνητής νοημοσύνης. Ο Γκρέι προειδοποιεί για τον κίνδυνο ενός "φαύλου κύκλου", όπου οι επόμενες εκδόσεις του ChatGPT εκπαιδεύονται με τη χρήση επιστημονικών άρθρων γραμμένων από προηγούμενες εκδόσεις, με αποτέλεσμα τον πολλαπλασιασμό των αξιέπαινων, διεξοδικών, ενδελεχών και, πάνω από όλα, επιστημονικά αβάσιμων ερευνών.

Μια άλλη αγαπημένη λέξη της τεχνητής νοημοσύνης είναι "εμβαθύνω". Ο ερευνητής Τζέρεμι Ενγκουγιέν, του Πολυτεχνείου του Σουίνμπερν στην Αυστραλία υπολόγισε ότι η "εμβάθυνση" εμφανίζεται σε ποσοστό άνω του 0,5% των ιατρικών ερευνών, ενώ πριν το ChatGPT περιοριζόταν σε ποσοστό κάτω του 0,04%. Ξαφνικά, χιλιάδες ερευνητές εμβαθύνουν. 

Ο Άντριου Γκρέι προειδοποιεί για τον κίνδυνο να "μολυνθεί" η ευρύτερη κοινωνία από αυτή τη διεξοδική τεχνητή νέα γλώσσα. Ο ίδιος ο Ενγκουγιέν παραδέχεται ότι συμβαίνει και στον ίδιο: "Συλλαμβάνω τον εαυτό μου το τελευταίο διάστημα να χρησιμοποιώ το 'εμβαθύνω' όταν μιλάω...μάλλον επειδή περνάω τόσο πολύ χρόνο με το GhatGPT". Στις 8 Απριλίου, ο επίσημος λογαριασμός του ChatGPT στο Χ σχολίασε σχετικά: "Απλά, λατρεύω να εμβαθύνω, τι να κάνουμε;" 

Διαβάστε ολόκληρο το άρθρο

[herbalife3]

Είναι κακό αυτό δηλαδή; Επιστήμονες είναι δεν είναι συγγραφείς!

[panther_512]

7 minutes ago, herbalife3 said:

Είναι κακό αυτό δηλαδή; Επιστήμονες είναι δεν είναι συγγραφείς!

Όπως περιγράφεται στο άρθρο, το πρόβλημα είναι να δημιουργηθεί λούπα, όπου μελλοντικές εκδόσεις ΑΙ θα βασίζονται σε κείμενο των προηγούμενων ΑΙ, με πολλαπλασιασμό της χρήσης γλώσσας που διαφέρει από τη "ζωντανή" ομιλούμενη γλώσσα.

Και μετά η ομιλούμενη γλώσσα δανείζεται στοιχεία από τη γλώσσα της ΑΙ και αλλάζει σε βάθος χρόνου.

[herbalife3]

Τότε μήπως το πρόβλημα αυτό καθαυτό είναι η ίδια ή AI? 

[Arkin]

Πάνε και οι επιστήμονες θα γίνουν αμοιβαδες και αυτοί. Μόνο Ai θα είναι το μότο από εδώ και πέρα. 

[Tlykog]

Πέφτω απ' το icloud...

Πραγματικά δε βλέπω το πρόβλημα. Δεν είναι κακό να χρησιμοποιείται. Εργαλείο για χρήση είναι. Το θέμα είναι, σε μία επιστημονική έρευνα, να υπάρχει σοβαρός έλεγχος αυτών που βγάζει το chatgpt από τον επιστήμονα για την εγκυρότητά τους και να γίνονται οι απαραίτητες διορθώσεις/βελτιώσεις. Είναι σαν να κάνεις έρευνα και να βάζεις κάποιον να σου κάνει ένα μέρος της "χαμαλοδουλειάς".

Αν χρησιμοποιείται εξολοκλήρου το chatgpt και ο "ερευνητής" δίνει απλά τα στοιχεία για δημοσίευση, τότε είναι απλά τραγικός... 

Επεξ/σία 13 Μαϊου από Tlykog

[billpao]

16 minutes ago, herbalife3 said:

Είναι κακό αυτό δηλαδή; Επιστήμονες είναι δεν είναι συγγραφείς!

Εγω κακό το βρίσκω, από την άποψη, ότι αν δεν αρέσει στους επιστήμονες η συγγραφή, τότε να αλλάξει ο τρόπος εκπόνησης των ερευνητικών άρθρων.

Τελοσπάντων, είναι και η έρευνα μπιζνα όμως, οπότε ποτέ δεν θα αλλάξει αυτό...

[Q-Taxys]

Quote

Ομάδα Κινέζων επιστημόνων δημοσίευσε στις 17 Φεβρουαρίου μελέτη σχετικά με τις μπαταρίες λιθίου. Η μελέτη -η οποία δημοσιεύτηκε σε εξειδικευμένο περιοδικό- ξεκινά ως εξής: "Βεβαίως, ορίστε μια πιθανή εισαγωγή για το θέμα σας: Οι μπαταρίες λιθίου συνιστούν πολλά υποσχόμενους υποψηφίους για..."

Kινεζάρες θεοί που το έστειλαν έτσι χωρίς καν να το δουν και τεμπελχανάς reviewer που ούτε καν το διάβασε.

[Ne0n]

Το σκοιλ ελικίκου το μετέφρασαν?

Επεξ/σία 13 Μαϊου από Ne0n

[shadowlike]

Μην περιμένετε terminator apocalypse απο skynet κλπ  , απο την ίδια μας τη βλακεία θα αφανιστούμε. Αν τα LLMs είχαν χρηστικότητα για να αντικαταστήσουν δουλειές θα τα εκμεταλευόντουσαν πρώτα οι εταιρίες που τα φτιάξανε. Αντ'αυτού τα "σπρώξανε" με συνδρομούλες και overhype για να αγοράζει ο κόσμος  services/ gpus και να φτιάχνει σαχλαμάρες. Δεν είναι τυχαίο πως αντί να αυτοματοποιήσουμε πραγματικά βαρετή δουλειά με τα LLMs πιάσαμε να αντικαταστήσουμε δημιουργική δουλειά, ζωγραφική , μουσική συγγραφή κειμένου κλπ, γιατί άραγε; Γιατί είναι τέχνη και είναι υποκειμενική. Αυτό και αν είναι ηλίθιο. Το ένα πράγμα που αν μη τι άλλο δεν θες να αντικαστήσει το ΑΙ.

Επίσης να μην ξεχάσετε να αποφύγετε να μάθετε προγραμματισμό γιατί στο μέλλον δεν θα χρειάζεται. Έτσι μας λέει ο πέτσινος της nvidia. Θα τα κάνουν όλα οι GPU της nvidia και εμείς θα τις εμπιστευόμαστε τυφλά  αφού τις πληρώνουμε τα κέρατα μας. Καλή τύχη με αυτό.

Πρέπει να καταλάβουν όλοι ότι δεν πρόκειται για ΑΙ αλλά για ένα εργαλείο που δεν μπορεί σε καμία περίπτωση να αντικαταστήσει το domain expertise κάποιου επαγγελματία.  Μπορεί να σε βοηθήσει εφόσον έχεις τις γνώσεις να το ελέγξεις. Δυστυχώς θα βρεθούν κάποιοι "έξυπνοι" σε εταιρείες που θα προτίνουν στα executive boards να αντικατασταθεί κόσμος με "AI tools". Τις συνέπειες θα τις υποστούν κυρίως οι καταναλωτές και η κοινωνία που θα κληθεί να κάνει bail out την X εταίρεία γιατί  κάποιος ηλίθιος εμπιστεύτικε το app της για να του κάνει λαθνασμένη διάγνωση ενός στίγματος στο δέρμα του.

Επεξ/σία 13 Μαϊου από shadowlike

[Agmourk]

18 minutes ago, Q-Taxys said:

Kινεζάρες θεοί που το έστειλαν έτσι χωρίς καν να το δουν και τεμπελχανάς reviewer που ούτε καν το διάβασε.

Και εμένα με βάζουν να κάνω και άλλες μετρήσεις γιατί δεν τους αρέσουν οι καμπύλες....... Άμα είσαι κινέζος πας μπροστά.. 

Υγ. The three-dimensional porous mesh structure of Cu-based metal-organic-framework - aramid cellulose separator enhances the electrochemical performance of lithium metal anode batteries - ScienceDirect Αυτή είναι η δημοσίευση.. 6.2 impact factor.. κλάμα..

edit.. Ούτε καν το έχουν διορθώσει, ακόμα έτσι είναι..! 

Επεξ/σία 13 Μαϊου από Agmourk

[Marcos_Aurilius]

15 minutes ago, shadowlike said:

Πρέπει να καταλάβουν όλοι ότι δεν πρόκειται για ΑΙ αλλά για ένα εργαλείο που δεν μπορεί σε καμία περίπτωση να αντικαταστήσει το domain expertise κάποιου επαγγελματία.  Μπορεί να σε βοηθήσει εφόσον έχεις τις γνώσεις να το ελέγξεις. Δυστυχώς θα βρεθούν κάποιοι "έξυπνοι" σε εταιρείες που θα προτίνουν στα executive boards να αντικατασταθεί κόσμος με "AI tools". Τις συνέπειες θα τις υποστούν κυρίως οι καταναλωτές και η κοινωνία που θα κληθεί να κάνει bail out την X εταίρεία γιατί  κάποιος ηλίθιος εμπιστεύτικε το app της για να του κάνει λαθνασμένη διάγνωση ενός στίγματος στο δέρμα του.

Έτσι ακριβώς - και θα επαναλάβω αυτό που γράφω κλασσικά σε κάθε σχετικό άρθρο: ΑΚΟΜΑ δεν μιλάμε σε καμία περίπτωση για τεχνητή νοημοσύνη. Τα γλωσσικά μοντέλα είναι εργαλεία που ΜΙΜΟΥΝΤΑΙ την νοημοσύνη. Έχουν ταϊστεί με δισεκατομμύρια κείμενα, τα έχουν αναλύσει, τα έχουν σπάσει σε εκατομμύρια λέξεις (ή και μικρότερες γλωσσικές μονάδες) και έχουν αποδώσει στην κάθε μία αριθμητικές τιμές που φανερώνουν την σχέση της με όλες τις άλλες λέξεις, βάσει απόστασης και συχνότητας εμφάνισης. Με αυτόν τον τρόπο προσπαθούν να εκτιμήσουν το νόημα πραγμάτων που δεν καταλαβαίνουν, και να δημιουργήσουν κείμενα που μοιάζουν αληθοφανή - χωρίς όμως να έχουν καμία αίσθηση σωστού-λάθους ή έστω νοήματος.

Αν τα ταΐσεις αποκλειστικά με ποιήματα, δεν θα μπορέσουν ποτέ να σου γράψουν επιστημονικό άρθρο. Αν τα ταΐσεις με μίσος, δεν θα μπορέσουν να σου γράψουν ποτέ για έρωτα. Αν τα ταΐσεις ψέματα, δεν θα μπορέσουν ποτέ να σου γράψουν αλήθεια. Απλώς ξανα-συρράβουν με αληθοφάνεια και φυσικότητα, χωρίς να τα κατανοούν, τα κείμενα που τους έχεις δώσει στην φάση της εκπαίδευσης.

Επεξ/σία 13 Μαϊου από Marcos_Aurilius

[skoulas]

9 λεπτά πριν, Agmourk είπε

Και εμένα με βάζουν να κάνω και άλλες μετρήσεις γιατί δεν τους αρέσουν οι καμπύλες....... Άμα είσαι κινέζος πας μπροστά.. 

Υγ. The three-dimensional porous mesh structure of Cu-based metal-organic-framework - aramid cellulose separator enhances the electrochemical performance of lithium metal anode batteries - ScienceDirect Αυτή είναι η δημοσίευση.. 6.2 impact factor.. κλάμα..

edit.. Ούτε καν το έχουν διορθώσει, ακόμα έτσι είναι..! 

Με h-index 46 και ένα σκασμό papers και citations o corresponding author τι περίμενες;

Μάλλον θα του ζητήσουν και συγγνώμη που δεν το διόρθωσε ο reviewer...

[cpc464]

[filip123go]

1 hour ago, Arkin said:

Πάνε και οι επιστήμονες θα γίνουν αμοιβαδες και αυτοί. Μόνο Ai θα είναι το μότο από εδώ και πέρα. 

Ναι, γιατί σημασία δεν έχει το πείραμα, τα αποτελέσματα, οι άπειρες ώρες μέσα στο εργαστήριο και τα απλήρωτα ξενύχτια, για έναν επιστήμονα, αλλά το ξέρει βρε φίλε να απαγγείλει και ένα ποίημα, στο φουαγιέ, όταν πάει να πάρει καφέ.