Η NVIDIA διέθεσε ένα εργαλείο ανοικτού κώδικα για τη δημιουργία ασφαλέστερων μοντέλων AI

[alion]

Από τον Μάρτιο, η NVIDIA προσφέρει το AI Foundations, μία υπηρεσία που επιτρέπει σε επιχειρήσεις, που δεν έχουν πολλά χρήματα ή τον χρόνο να αναπτύξουν τα δικά τους μεγάλα γλωσσικά μοντέλα (Large Language Models ή LLMs) από το μηδέν «να δημιουργήσουν, να βελτιώσουν και να λειτουργήσουν προσαρμοσμένα γλωσσικά μοντέλα και μοντέλα τεχνητής νοημοσύνης τα οποία μπορούν να εκπαιδεύσουν αξιοποιώντας τα ιδιόκτητα δεδομένα τους».

Πρόσφατα, η εταιρεία ανακοίνωσε το NeMo Guardrails, ένα εργαλείο που σχεδιάστηκε για να βοηθήσει τους προγραμματιστές να ορίσουν ένα πλαίσιο προστασίας, καταλληλόλητας και ασφάλειας για τις εφαρμογές τεχνητής νοημοσύνης που δημιουργούν. Το NeMo Guardrails επιτρέπει στους μηχανικούς λογισμικού να επιβάλλουν τρεις διαφορετικούς τύπους ορίων στα προσαρμοσμένα LLMs που δημιουργούν. Πιο συγκεκριμένα, οι εταιρείες μπορούν να ορίσουν «τοπικά προστατευτικά κιγκλιδώματα» που θα εμποδίζουν τις εφαρμογές από το να «ασχολούνται» με θέματα πάνω στα οποία δεν έχουν εκπαιδευτεί. Για παράδειγμα, η NVIDIA πρότεινε ένα συνομιλητικό bot εξυπηρέτησης πελατών, το οποίο με τη βοήθεια του λογισμικού, αρνείται να απαντήσει σε μια ερώτηση που σχετίζεται με τον καιρό. Οι εταιρείες μπορούν επίσης να ορίσουν όρια προστασίας και ασφάλειας, τα οποία σχεδιάστηκαν για να διασφαλίσουν ότι τα LLMs αντλούν ακριβείς πληροφορίες και συνδέονται με εφαρμογές που είναι γνωστό ότι είναι ασφαλείς.

Σύμφωνα με την NVIDIA, το NeMo Guardrails λειτουργεί με όλα τα μεγάλα γλωσσικά μοντέλα, συμπεριλαμβανομένου και του ChatGPT. Επιπλέον, η εταιρεία ισχυρίζεται ότι σχεδόν οποιοσδήποτε προγραμματιστής λογισμικού μπορεί να χρησιμοποιήσει το λογισμικό της καθώς «δεν είναι απαραίτητο να έχεις εξειδικευμένες γνώσεις στη μηχανική εκμάθηση ή επιστήμονας δεδομένων». Δεδομένου ότι το NeMo Guardrails είναι ανοικτού κώδικα, η NVIDIA επισημαίνει ότι μπορεί να λειτουργήσει σε συνδυασμό με όλα τα εργαλεία που χρησιμοποιούν ήδη οι developers εφαρμογών για επιχειρήσεις.

Η NVIDIA έχει ενσωματώσει το NeMo Guardrails στο υπάρχον πλαίσιο NeMo για τη δημιουργία μοντέλων τεχνητής νοημοσύνης. Οι εταιρικοί πελάτες της μπορούν να αποκτήσουν πρόσβαση στο NeMo μέσω της πλατφόρμας λογισμικού AI Enterprise της εταιρείας, η οποία προσφέρει επίσης το framework και μέσω της υπηρεσίας AI Foundations. Η διάθεση του NeMo Guardrails έρχεται λίγο αφότου ορισμένες από τις υψηλού προφίλ λύσεις παραγωγικής τεχνητής νοημοσύνης, συμπεριλαμβανομένων των Microsoft Bing και Google Bard μπήκαν στο μικροσκόπιο από τις ρυθμιστικές αρχές για την τάση που έχουν να προσφέρουν «παραισθησιογόνες» πληροφορίες (μην ξεχνάμε ότι το chatbot της Google, Bard, έκανε ένα σημαντικό λάθος στην πρώτη δημόσια επίδειξη του από την εταιρεία).

«Η NVIDIA έκανε το NeMo Guardrails –ένα προϊόν έρευνας πολλών ετών– ανοικτού κώδικα για να συνεισφέρει στην τεράστια ενέργεια και στο έργο της κοινότητας των προγραμματιστών για την ασφάλεια της τεχνητής νοημοσύνης» δήλωσε η NVIDIA. «Μαζί, οι προσπάθειες μας στα προστατευτικά κιγκλιδώματα θα βοηθήσουν τις εταιρείες να διατηρήσουν τις έξυπνες υπηρεσίες τους ευθυγραμμισμένες με τις απαιτήσεις προστασίας, απορρήτου και ασφάλειας ώστε οι μηχανές καινοτομίας τους να παραμείνουν εντός πορείας». Αν θέλετε να διαβάσετε περισσότερα για το πως λειτουργεί το NeMo Guardrails, μπορείτε να επισκεφτείτε την ανάρτηση της εταιρείας στο επίσημο blog της.

Διαβάστε ολόκληρο το άρθρο

[MikeKata]

Nvidia... Open source... ΤΑ ΥΣΤΕΡΑ ΤΟΥ ΚΟΣΜΟΥ!!11!11!!!

 

[Επισκέπτης]

"Η NVIDIA διέθεσε ένα εργαλείο ανοικτού κώδικα"...

Για να δουλέψουν δωρεάν προγραμματιστές γι΄αυτήν...😂

[Arkin]

3 λεπτά πριν, aggelis6 είπε

"Η NVIDIA διέθεσε ένα εργαλείο ανοικτού κώδικα"...

Για να δουλέψουν δωρεάν προγραμματιστές γι΄αυτήν...😂

Ειναι κλειστου κωδικα ειναι κακες οι εταιριες γιατι το κρατανε για την παρτυ τους

Ειναι ανοιχτου κωδικα το δινει για να το φτιαξουν δωρεαν αλλοι

Αποφασιστε τελικα τι προτιματε κλειστου η ανοιχτου κωδικα

[Επισκέπτης]

16 λεπτά πριν, Arkin είπε

Ειναι κλειστου κωδικα ειναι κακες οι εταιριες γιατι το κρατανε για την παρτυ τους

Ειναι ανοιχτου κωδικα το δινει για να το φτιαξουν δωρεαν αλλοι

Αποφασιστε τελικα τι προτιματε κλειστου η ανοιχτου κωδικα

Εσύ τί προτιμάς;

[Silverage]

Θα ήθελα να δώ ένα κακό, μη ασφαλές AI.

[pao13]

3 ώρες πριν, Arkin είπε

Ειναι κλειστου κωδικα ειναι κακες οι εταιριες γιατι το κρατανε για την παρτυ τους

Ειναι ανοιχτου κωδικα το δινει για να το φτιαξουν δωρεαν αλλοι

Αποφασιστε τελικα τι προτιματε κλειστου η ανοιχτου κωδικα

ότι θες εσύ μάστορα 

[panther_512]

14 hours ago, Arkin said:

Αποφασιστε τελικα τι προτιματε κλειστου η ανοιχτου κωδικα

Οτιδήποτε, αρκεί να μπορώ να γκρινιάζω για αυτό 😛

[Diavolos666]

Συγνώμη 9 στα 10 ΑΙ είναι ανοιχτού κώδικα οπότε τίποτα νέο εδώ... και γενικώς όλα είναι "ασφαλή" οπότε πάλι τίποτα νέο.

Μας έχουν πρήξει με την ασφάλεια, πας να γράψεις κάτι και σου πετάει μήνυμα ότι έγραψες απαγορευμένη λέξη! Ότι και να γράψεις ανάλογα με το context μπορεί να είναι σεξουαλικό. Απαγορεύεται η λέξη chest στήθος... λες και όλοι θέλουν να δούνε βυ****ά. Απαγορεύουν την λέξη feet λες και όσοι χρησιμοποιούν ΑΙ έχουν ποδολαγνία!

Αν θέλουν ασφάλεια κατά του πορνό, ας πρόσεχαν τι εικόνες έκλεβαν από το διαδίκτυο για να κάνουν το training τους.

Δεν θέλουμε "ασφαλές" ΑΙ, λειτουργικό να είναι θέλουμε.

Επεξ/σία 2 Μαΐου 2023 από Diavolos666