Δεν ευθύνονται οι αισθητήρες του αυτόνομου οχήματος της Uber για το δυστύχημα, σύμφωνα με την κατασκευάστρια εταιρεία

[pirmen56]

Τα είπες όλα. Τεχνολογία ΓΤΠ.

εδιτ: 

Δείτε προσεκτικά το παρακάτω από τον τόπο του δυστυχήματος:

-(00:55) Ο εκλιπών είχε παραπονεθεί ότι 7 στις 10 φορές το όχημα τον πήγαινε πάνω στη διαχωριστική λωρίδα. Απευθύνθηκε στον έμπορο, αλλά δεν μπόρεσαν να αναπαράξουν το πρόβλημα.

-(01:40) Υπάρχουν δύο λευκές γραμμές στο οδόστρωμα που οδηγούν καρφί πάνω στο διαχωριστικό. Εικάζεται λοιπόν ότι το σύστημα μπέρδεψε αυτές τις δύο γραμμές με κανονική λωρίδα κυκλοφορίας. Λάθος που κανένας άνθρωπος σε νηφάλια κατάσταση δεν θα έκανε λόγω κοινής λογικής, βλέποντας μπροστά του και το διαχωριστικό.

-(03:10) Ο οδηγός που μιλάει στο βίντεο λέει ότι το σύστημα μαστίζεται από glitches. Για παράδειγμα κάποιες φορές βλέπει οχήματα φαντάσματα και πατάει φρένο ενώ δεν πρέπει.

Όλα αυτά είναι απολύτως αναμενόμενα αν σκεφτεί κανείς ότι:

α) Τα neural networks δεν μπορούν να αποκτήσουν κοινή λογική γιατί δεν έχουν unsupervised learning. Το UL παρέχει τη δυνατότητα να ανακαλύπτεις μόνος σου μοτίβα και να τα συσχετίζεις, χτίζοντας σιγά σιγά τη δική σου βάση γνώσεων. Δεν μπορεί να υπάρξει καθοδήγηση σε μια τέτοια διαδικασία, παρά μόνο από τα ίδια τα δεδομένα. [Π.χ. έριξα ένα ποτήρι και το ποτήρι έσπασε. Η σχέση αιτίου αιτιατού υπάρχει στα data.]

Δεν αναγνωρίζουν δέντρα, πέτρες, τραπέζια κτλ. οι άνθρωποι επειδή κάποιος μηχανισμός τους λέει συνέχεια αν υπάρχει κάτι προς αναγνώριση και πόσο καλά το αναγνώρισαν.

β) Η αναγνώριση πραγμάτων στα NN γίνεται βάσει στατιστικών κατανομών. Πράγμα που σημαίνει ότι μικρές αλλαγές στα δεδομένα εκτροχιάζουν τελείως την "αντίληψη" του NN. Όπως στην περίπτωση που βλέπει πάνω στο δρόμο αυτοκίνητα φαντάσματα. Και άπειρα άλλα glitches για όποιον το ψάξει.

Οι περισσότεροι δεν το έχουν κατανοήσει, αλλά προχωράμε προς έναν νέο AI winter. Η πρόοδος σε weak AI, όπως η αναγνώριση spam mails με στατιστικούς αλγόριθμους, δεν έχει καμία επαφή με πραγματικό(general) AI. Είναι απλά μια ειδική λύση σε μια μεγάλη γκάμα προβλημάτων. Προς αποφυγή παρεξηγήσεων general AI δεν είναι μόνο το ανθρώπινο AI, αλλά και αυτό όλων των 100% αυτόνομων πλασμάτων.

Επεξ/σία 3 Απριλίου 2018 από pirmen56

[Omnigeek]

3 ώρες πριν, pirmen56 είπε

-(01:40) Υπάρχουν δύο λευκές γραμμές στο οδόστρωμα που οδηγούν καρφί πάνω στο διαχωριστικό. Εικάζεται λοιπόν ότι το σύστημα μπέρδεψε αυτές τις δύο γραμμές με κανονική λωρίδα κυκλοφορίας. Λάθος που κανένας άνθρωπος σε νηφάλια κατάσταση δεν θα έκανε λόγω κοινής λογικής, βλέποντας μπροστά του και το διαχωριστικό.

Έχεις κάποια πληροφόρηση ότι ο οδηγός που έκανε ακριβώς το ίδιο λάθος 11 μέρες πριν δεν ήταν νηφάλιος ή δεν διέθετε κοινή λογική;

3 ώρες πριν, pirmen56 είπε

-(03:10) Ο οδηγός που μιλάει στο βίντεο λέει ότι το σύστημα μαστίζεται από glitches. Για παράδειγμα κάποιες φορές βλέπει οχήματα φαντάσματα και πατάει φρένο ενώ δεν πρέπει.

Ίσως για αυτό το λόγο η tesla επιμένει συνεχώς να τονίζει ότι το σύστημα των σημερινών αυτοκινήτων της είναι βοηθητικό autopilot (ορολογία που επελέγη σύμφωνα με αυτήν για να τονίσει τις ομοιότητες στην λειτουργία με τα autopilot των αεροσκαφών) και όχι αυτοδήγησης (level 4 και πάνω) οπότε και ο οδηγός πρέπει να έχει πάντοτε την επίβλεψη και να είναι έτοιμος να αναλάβει. Εξ'ου και κάθε λίγα δευτερόλεπτα χτυπάει συναγερμός για να ξαναπιάσει το τιμόνι.

3 ώρες πριν, pirmen56 είπε

Οι περισσότεροι δεν το έχουν κατανοήσει, αλλά προχωράμε προς έναν νέο AI winter.

Δηλαδή;

[Fubar.gr]

2 ώρες πριν, Omnigeek είπε

Έχεις κάποια πληροφόρηση ότι ο οδηγός που έκανε ακριβώς το ίδιο λάθος 11 μέρες πριν δεν ήταν νηφάλιος ή δεν διέθετε κοινή λογική;

http://abc7news.com/automotive/exclusive-i-team-investigates-why-caltrans-didnt-fix-safety-barrier-before-tesla-driver-died-there/3280399/

 

He was allegedly arrested for driving under the influence.

[KilliK]

δεν καταλαβαινω γιατι γινεται τοσο ντορος. οπως με καθε καινουργια τεχνολογια αυτου του μεγεθους, θα υπαρξουν αναποφευκτα καποιες απωλειες σε ανθρωπινες ζωες μεχρι να τελειοποιηθει.

παντα ετσι γινοταν. το πραγματικο θεμα ειναι κατα ποσο ειναι αρκετα ωριμη για μαζικη χρηση. αν η καθε Uber βιαζεται να την προωθησει στος καταναλωτες ενω ειναι ακομη ανετοιμη, σιγουρα φταιει.

[Omnigeek]

16 ώρες πριν, Fubar.gr είπε

http://abc7news.com/automotive/exclusive-i-team-investigates-why-caltrans-didnt-fix-safety-barrier-before-tesla-driver-died-there/3280399/

He was allegedly arrested for driving under the influence.

ΟΚ. Ακόμα και ο συγκεκριμένος οδηγός (πιθανόν) να ήταν υπό την επήρεια, αυτό δεν δικαιολογεί γενικόλογα συμπεράσματα ότι κανένας νηφάλιος άνθρωπος δεν θα έκανε τέτοιο λάθος λόγω κοινής λογικής. Καθημερινά γίνονται παρόμοια αλλά και πολύ πιο τρελά λάθη και δυστυχήματα από αμελείς απρόσεκτους ανθρώπους οδηγούς με δυνατότητα "κοινής λογικής".

[pirmen56]

15 ώρες πριν, KilliK είπε

δεν καταλαβαινω γιατι γινεται τοσο ντορος. οπως με καθε καινουργια τεχνολογια αυτου του μεγεθους, θα υπαρξουν αναποφευκτα καποιες απωλειες σε ανθρωπινες ζωες μεχρι να τελειοποιηθει.

παντα ετσι γινοταν. το πραγματικο θεμα ειναι κατα ποσο ειναι αρκετα ωριμη για μαζικη χρηση. αν η καθε Uber βιαζεται να την προωθησει στος καταναλωτες ενω ειναι ακομη ανετοιμη, σιγουρα φταιει.

Αν η τελειοποίηση γίνεται από ανθρώπους με επανασχεδιασμό/επαναπρογραμματισμό σε κάθε λάθος, τότε βρισκόμαστε ακόμα στη δεκαετία του 50, από άποψη μεθόδων. Και πάντα θα πρέπει να είμαστε σε επιφυλακή για το νέο λάθος και τη διόρθωσή του.

Αν η βελτίωση γίνεται από το ίδιο το σύστημα που θα αποκτάει εμπειρία και θα αυτοδιορθώνεται τότε και μόνο τότε μιλάμε για πραγματική επανάσταση.

[Fubar.gr]

Στις 31/3/2018 στις 8:01 ΜΜ, Omnigeek είπε

Έχεις κάποια πηγή για αυτά;

Απο αυτό το tweet: https://twitter.com/eriz35/status/977533560625270786

 

Τα νούμερα είναι απο εδώ: http://www.iihs.org/iihs/topics/driver-death-rates και αφορούν εκατομμύρια αυτοκίνητα επι χρόνια.

Rates are given as the number of driver deaths per million registered vehicle years. (A registered vehicle year is one vehicle registered for one year.) To increase the exposure and thereby improve the accuracy of the calculations, results are included for the previous three model years if the vehicle wasn't substantially redesigned during that time. These calculations take into account only deaths of drivers, not passengers, since every vehicle that crashes has a driver, but not every vehicle has passengers.

Στο παραπάνω Tweet υπολογίζει με την ίδια μέθοδο οτι υπάρχουν συνολικά περίπου 250 χιλιάδες Model S και X τα τελευταία 3 χρόνια, οπότε πολύ χοντρικά 500 με 700 χιλιάδες αυτοκινητοχρόνια.

Υπάρχουν πάνω απο 20 καταγεγραμμένα θανάτηφόρα οπότε αυτό βγαίνει χοντρικά στα 40 θανατηφόρα ανα εκατομμύριο αυτοκινητοχρόνια. Φυσικά αυτό είναι πολύ χοντρικός υπολογισμός, καθώς εκτός άλλων βάζει S και X μαζί, αλλά η διαφορά είναι τόσο μεγάλη που δέν μπορεί να αγνοηθεί.

Το προφίλ χρήσης φυσικά και έχει σημασία, αλλά αμφιβάλλω αν η χρήση των S/X είναι σημαντικά διαφορετική απο τα υπόλοιπα αυτοκίνητα της λίστας που να δικαιολογεί τα σημαντικά αυξημένα νούμερα.

[Omnigeek]

4 ώρες πριν, Fubar.gr είπε

Απο αυτό το tweet: https://twitter.com/eriz35/status/977533560625270786

Τα νούμερα είναι απο εδώ: http://www.iihs.org/iihs/topics/driver-death-rates και αφορούν εκατομμύρια αυτοκίνητα επι χρόνια.

Rates are given as the number of driver deaths per million registered vehicle years. (A registered vehicle year is one vehicle registered for one year.) To increase the exposure and thereby improve the accuracy of the calculations, results are included for the previous three model years if the vehicle wasn't substantially redesigned during that time. These calculations take into account only deaths of drivers, not passengers, since every vehicle that crashes has a driver, but not every vehicle has passengers.

Στο παραπάνω Tweet υπολογίζει με την ίδια μέθοδο οτι υπάρχουν συνολικά περίπου 250 χιλιάδες Model S και X τα τελευταία 3 χρόνια, οπότε πολύ χοντρικά 500 με 700 χιλιάδες αυτοκινητοχρόνια.

Υπάρχουν πάνω απο 20 καταγεγραμμένα θανάτηφόρα οπότε αυτό βγαίνει χοντρικά στα 40 θανατηφόρα ανα εκατομμύριο αυτοκινητοχρόνια. Φυσικά αυτό είναι πολύ χοντρικός υπολογισμός, καθώς εκτός άλλων βάζει S και X μαζί, αλλά η διαφορά είναι τόσο μεγάλη που δέν μπορεί να αγνοηθεί.

Το προφίλ χρήσης φυσικά και έχει σημασία, αλλά αμφιβάλλω αν η χρήση των S/X είναι σημαντικά διαφορετική απο τα υπόλοιπα αυτοκίνητα της λίστας που να δικαιολογεί τα σημαντικά αυξημένα νούμερα.

Καταρχήν άσχετη η συζήτηση με το θέμα. Δεύτερον, εσύ διαβάζοντας τις ασυναρτησίες του παραπάνω τρολ ειλικρινά καλύφθηκες λογικά;

[Fubar.gr]

Στις 3/29/2018 στις 10:42 ΠΜ, Fubar.gr είπε

Επομένως πρέπει να γίνει ξεκάθαρο οτι το αυτοκίνητο της UBER δέν είχε έλλειψη αισθητήρων. Είναι σίγουρο οτι τρείς διαφορετικοί αισθητήρες έδιναν σήμα οτι κάτι υπάρχει στην πορεία του αυτοκινήτου, όμως για κάποιο λόγο, το software που ελέγχει το αυτοκίνητο επέλεξε να τους αγνοήσει και τους τρείς και συνέχισε την πορεία του.

 

Uber Finds Deadly Accident Likely Caused By Software Set to Ignore Objects On Road

The car’s sensors detected the pedestrian, who was crossing the street with a bicycle, but Uber’s software decided it didn’t need to react right away. That’s a result of how the software was tuned. Like other autonomous vehicle systems, Uber’s software has the ability to ignore “false positives,” or objects in its path that wouldn’t actually be a problem for the vehicle, such as a plastic bag floating over a road. In this case, Uber executives believe the company’s system was tuned so that it reacted less to such objects.

[asinoro]

Έχετε δει πολλούς να περνάνε νύχτα με τα χέρια ποδήλατο σε δρόμο ταχείας κυκλοφορίας και να κοιτάνε την άλλη μεριά του δρόμου και όχι στην πλευρά που έρχεται το αυτοκίνητο;
https://www.youtube.com/watch?time_continue=8&v=RASBcc4yOOo