Tesla: Ο «αυτόματος πιλότος» προϋποθέτει πως ο οδηγός βρίσκεται συνεχώς σε εγρήγορση

[Omnigeek]

1 ώρα πριν, Miracle Worker είπε

Που είδες ότι παραδέχτηκε πληρως το φταίξιμο του; Όλα σε malfunction του συστήματος τα έριξε. Το μόνο που είπε είναι οτι δεν εφαρμοζε 100% τους κανόνες του manual ασφαλειας, ώστε ίσως και να μπορούσε να διορθωσει το λάθος του συστήματος.

Στην αρχή υπέθεσε ότι ήταν κάποιο στιγμιαίο σφάλμα του autopilot, κατόπιν όσο έβγαιναν περισσότερα στοιχεία ανέλαβε την ευθύνη.

The famous Tesla Model 3 Road Trip has come to a screeching halt as the car hit a barrier while in Europe. It may be awhile before we have any idea of the full details surrounding this latest crash. However, while You You initially appeared to blame Autopilot, he later blamed himself. Now, he’s trying to figure out if it may have been some failure related to the suspension.

https://insideevs.com/tesla-model-3-road-trip-car-hits-barrier-while-on-autopilot/

Πέρα από την κατάχρηση του συστήματος AP (ράμπα εξόδου), υπήρχε και μηχανικό πρόβλημα με το σύστημα διεύθυνσης (ρουλεμάν;) μετά από αρκετές περιπετειώδεις διαδρομές εκτός δρόμου. Ο ίδιος είπε πως άκουγε για μεγάλο διάστημα δυνατούς θορύβους όποτε έστριβε έστω και ελάχιστα το τιμόνι.

I have been hearing loud clicking noises every time the wheel is turned even 5 degrees to one side.

 

 

 

1 ώρα πριν, Captain Falafel είπε

Εχουμε καμια αναφορα για τα ποσα ατυχηματα μιλαμε σε σχεση με τον στολο που βρισκεται στους δρομους και ποσα χιλιομετρα εχουν διανυσει; Γιατι τοτε εχει νοημα να μιλαμε για κακες επιδοσεις του autopilot.

Τα Tesla είναι πολύ ειδικά αυτοκίνητα και δεν μπορούν να γίνουν σοβαρές συγκρίσεις κατά την γνώμη μου. Σκέψου ένα μόνο παράγοντα, το αγοραστικό τους κοινό μέχρι σήμερα αποτελείται στην μεγάλη πλειοψηφία του από άτομα οικολογικά ευαίσθητα που μεταπήδησαν ξαφνικά από prius σε οικογενειακά αυτοκίνητα με επιδόσεις supercar. Αν πάρεις 100 τυχαίους Έλληνες π.χ. και τους βάλεις σε ένα βαρύ αυτοκίνητο με 0-100 σε 3-4" πόσοι πιστεύεις δεν θα τρακάρουν; 

[KilliK]

εγινε ατυχημα και στην Ελλαδα την Παρασκευη που περασε, με Tesla στο autopilot:

http://www.lifo.gr/now/greece/194458/proti-fora-troxaio-me-tesla-model-3-stin-ellada-ti-synevi-kai-se-poion-anikei-to-aytokinito

[Whargoul]

Και κάποιο άλλο κάρφωσε χθες πάνω σε σταθμευμένο περιπολικό (Tesla sedan in Autopilot mode hit a parked California police car). Από τι φαίνεται τους αρέσουν τα λαμπάκια αφού 2 κάρφωσαν και σε πυροσβεστικά οχήματα,

(ή απλά τα ατυχήματα με ιδιότητες χωρίς θύματα δεν μαθαίνονται προς τα έξω)

[Fubar.gr]

Στις 29/5/2018 στις 7:52 ΜΜ, Captain Falafel είπε

Εχουμε καμια αναφορα για τα ποσα ατυχηματα μιλαμε σε σχεση με τον στολο που βρισκεται στους δρομους και ποσα χιλιομετρα εχουν διανυσει; Γιατι τοτε εχει νοημα να μιλαμε για κακες επιδοσεις του autopilot.

Σύμφωνα με την IIHS, στην Αμερική κατα μέσο όρο έχουμε 1,16 νεκρούς ανα 100 εκατομμύρια διανυθέντα μίλια: http://www.iihs.org/iihs/topics/t/general-statistics/fatalityfacts/state-by-state-overview

Αν το αντιστρέψουμε, βγαίνει ένας θάνατος ανα 86 εκατομμύρια μίλια που γράφει και ο Musk εδώ:

 

Επιπλέον ισχυρίζεται οτι τα Tesla είναι περίπου 4 φορές πιό ασφαλή με ένα θάνατο ανα 320 εκατομμύρια μίλια.

Ο παρακάτω πίνακας έχει όλα τα θανατηφόρα που έχουν δημοσιευτεί στα μέσα: https://drive.google.com/file/d/1lkQJjG9gNQffucvL9Uf0Ag__aUbTyCj8/view

Με τη μεθοδολογία που υπολογίζει η NHTSA τα τροχαία, βγαίνει ένας θάνατος ανα 257 εκατομμύρια μίλια και όχι ανα 320 όπως λέει ο Musk.

Εδώ θα πεί κάποιος οτι το νούμερο δέν είναι τόσο φοβερό, αντί για 4 φορές πιό ασφαλή απο το μέσο όρο είναι 3. Όμως η σύγκριση δέν είναι σωστή για τους εξής λόγους. Ο στόλος οχημάτων με τον οποίο γίνεται η σύγκριση αποτελείται απο οχήματα μέσης ηλικίας 10+ χρόνων, πολύ χαμηλότερης τιμής, και επομένως δέν έχουν καμία σχέση με τα συστήματα ενεργητικής και παθητηκής ασφάλειας που έχει ένα τυπικό Tesla, το οποίο δέν είναι και πάνω απο 4-5 χρονων σε ηλικία.

Συνεπώς η σύγκριση πρέπει να γίνεται με οχήματα ίδιας κατηγορίας τιμής και ηλικίας και όχι με το γενικό στόλο. Εκτός αυτού, υπάρχουν και κοινονικο-οικονομικοί λόγοι που κάνουν τα ακριβά αυτοκίνητα πιό ασφαλή. Ένας που έχει να δώσει 100+ χιλιάδες δολάρια για να αγοράσει ένα αυτοκίνητο αυτής της κατηγορίας, συνήθως είναι σε καλύτερη υγεία απο το γενικό πληθυσμό, οδηγεί πιό προσεκτικά, τηρεί τα σέρβις κτλ.

Για σύγκρισή, τα παρακάτω 11 αυτοκίνητα είχαν 0 θανάτους την τετραετία 2012-2015: http://money.cnn.com/2017/05/25/autos/safest-and-deadliest-cars-on-the-road/index.html

Με αυτά θα πρέπει να συγκρίνονται τα Tesla και όχι με το γενικό στόλο.

Ένα άλλο ζήτημα που κάνει τα στατιστικά των Tesla να φαίνονται ακόμα χειρότερα είναι οτι όσο πιό βαρύ είναι ένα αυτοκίνητο είναι και πιό ασφαλές. Το παρακάτω άρθρο αναφέρεται στα υβριδικά, όμως τα Tesla είναι ακόμα πιό βαριά:

Hybrid models have lower injury odds than their conventional counterparts

Αυτό φαίνεται οτι αντικατοπτρίζεται στα μικροατυχήματα, καθώς οι επιβάτες των Tesla έχουν λιγότερα medical claims, όμως όχι στα θανατηφόρα.

Όσον αφορά το Autopilot, υπάρχουν μέχρι αυτή τη στιγμή 3 επιβεβαιωμένα θανατηφόρα οπου ευθυνόταν το σύστημα:

https://www.nytimes.com/2016/09/15/business/fatal-tesla-crash-in-china-involved-autopilot-government-tv-says.html

https://www.nytimes.com/2016/07/02/business/joshua-brown-technology-enthusiast-tested-the-limits-of-his-tesla.html

https://www.theguardian.com/technology/2018/mar/31/tesla-car-crash-autopilot-mountain-view

και ένα ανεπιβεβαίωτο:

https://www.nbcbayarea.com/news/local/Fatal-Vehicle-Crash-Pond-San-Ramon-Crow-Canyon-Road-483200591.html

 

Στις 29/5/2018 στις 7:52 ΜΜ, Captain Falafel είπε

Ξερετε και κανονικα αυτοκινητα αναφλεγονται χωρις υπαιτιοτητα του οδηγου για παραδειγμα λογω κατασκευαστικου λαθους και ποσες φορες εχουν ανακλυθει μοντελα απο τις "μεγαλες" εταιριες.

 

Όλα τα αυτοκίνητα μπορούν να πάρουν φωτιά. Η ιδιαιτερότητα των Tesla είναι οτι αν πάρει φωτιά η μπαταρία, τότε εξαπλώνεται ταχύτατα και με μεγάλη ένταση.

Στο πρόσφατο ατύχημα οπου σκοτώθηκαν δύο νεαροί, http://www.abc.net.au/news/2018-05-10/tesla-crash-battery-fire-kills-two-teenagers/9747648 οι μάρτυρες λένε οτι ήταν ζωντανοί, αλλά η φωτιά έκαιγε τόσο έντονα που ήταν αδύνατον για τους παρεβρισκόμενους να πλησιάσουν και να προσπαθήσουν να τους απεγκλωβίσουν.

Ζωντανοί φαίνεται να κάηκαν και σε άλλες δύο περιπτώσεις:

https://www.indystar.com/story/news/crime/2016/11/03/2-killed-fiery-tesla-crash-near-downtown/93227456/

https://www.reuters.com/article/us-swiss-tesla-crash/tesla-crash-may-have-triggered-battery-fire-swiss-firefighters-idUSKCN1IF2WN

 

Στις 29/5/2018 στις 7:52 ΜΜ, Captain Falafel είπε

Το οτι ακουμε μονο για τα αυτοκινητα της tesla στα media εχει ξεκαθαρη σχεση με το σορταρισμα που δεχεται η εταιρεια.

 

Όχι, το σορτάρισμα είναι κάτι που γίνεται σε όλες τις εταιρίες.

Ο λόγος που τα ατυχήματα της Tesla είναι πάντα στο επίκεντρο είναι οτι ο Musk πάντα επιζητούσε τη δημοσιότητα, κάνοντας διάφορες υπερβολικές δηλώσεις σχετικά με το οτι τα αυτοκίνητα του είναι τα πιό ασφαλή, και πώς το autopilot σώζει ζωές και σε λίγους μήνες θα είναι πλήρως αυτο-οδηγούμενα κτλ.

Τώρα που φαίνεται οτι τα πράγματα δέν είναι ακριβώς έτσι, η δημοσιότητα αρχίζει και γυρνά εναντίον του. Λίγες μέρες πρίν είχε ένα mini meltdown κατακρίνοντας τα μέσα στο twitter. Το μόνο που θα καταφέρει με αυτό είναι ακόμα πιό πολύ δημοσιότητα.

Ένα πρόσφατο άρθρο:

Why is Elon Musk raging at “big media”? Because he’s finally being called on his tall tales.

 

Ενδεικτικό του hype, ξέρεις πχ ποιός είναι ο CEO της Mazda? Εγώ δέν ξερω χωρίς να το ψάξω στο Google. Η Mazda πουλάει κάθε χρόνο 3 φορές παραπάνω αυτοκίνητα απο όσα έχει πουλήσει η Tesla συνολικά απο την ίδρυση της μεχρι σήμερα.

[Omnigeek]

Άλλο ένα εκτός θέματος κατεβατό γεμάτο ότι να΄ναι υποθέσεις και διαστρεβλώσεις.

[Fubar.gr]

Στις 30/5/2018 στις 5:35 ΜΜ, Whargoul είπε

Και κάποιο άλλο κάρφωσε χθες πάνω σε σταθμευμένο περιπολικό (Tesla sedan in Autopilot mode hit a parked California police car). Από τι φαίνεται τους αρέσουν τα λαμπάκια αφού 2 κάρφωσαν και σε πυροσβεστικά οχήματα,

(ή απλά τα ατυχήματα με ιδιότητες χωρίς θύματα δεν μαθαίνονται προς τα έξω)

 

Αυτό ακριβώς. Τα περιστατικά αυτά μαθεύτηκαν γιατι οι ίδιες οι υπηρεσίες τα δημοσίευσαν στο twitter τους.

Αργότερα προέκυψε οτι στο ίδιο ακριβώς σημείο που έγινε η σύγκρουση με το περιπολικό, είχε γίνει άλλη μία σύγκρουση με φορτηγό το 2017, η οποία δέν μαθεύτηκε:

Self-driving Tesla car crashes in same California location as 2017 accident

 

Το Autopilot το μόνο που κάνει είναι να ακολουθεί τυφλά τις λωρίδες (και αυτό όχι πάντα επιτυχημένα) χωρίς να βλέπει μπροστά του για αυτοκίνητα ή άλλα εμπόδια. Το παρακάτω tweet δείχνει τη διαρύθμιση του δρόμου:

 

 

Κατα τα άλλα, τεχνητή νοημοσύνη, neural networks και αυτοκίνητα που μαθαίνουν 🤣

[pirmen56]

Στις 31/5/2018 στις 6:54 ΜΜ, Omnigeek είπε

Άλλο ένα εκτός θέματος κατεβατό γεμάτο ότι να΄ναι υποθέσεις και διαστρεβλώσεις.

Ένα πολύ ενδιαφέρον blog από άνθρωπο που ασχολείται ενεργά με AI και έχει δουλέψει σε ρεαλιστικά μοντέλα νευρώνων.

http://blog.piekniewski.info/who-am-i/

https://blog.piekniewski.info/2018/02/09/a-v-safety-2018-update/

https://blog.piekniewski.info/2018/05/28/ai-winter-is-well-on-its-way/

Ξεφτιλίζει πλήρως την τεχνολογία των τωρινών νευρωνικών δικτύων(deep learning) με παραδείγματα και επιχειρήματα.

Μιλάει για την απάτη των αυτοκινούμενων οχημάτων και το πώς η λεπτομερής εξέταση των δεδομένων παραπέμπει σε άκρως επικίνδυνη τεχνολογία. Την αδυναμία των NN να αντιληφθούν ως π.χ. μια γάτα ακόμα και ένα πολύ λεπτομερές σκίτσο της. Τη λανθασμένη κατηγοριοποίηση αφηρημένων σχεδίων χωρίς νόημα, ως υπάρκτα αντικείμενα του έξω κόσμου. Την αδυναμία των ΝΝ να αντιληφθούν ποίο είναι το κυρίως αντικείμενο και ποιά η σκιά του, μέσα σε μια φωτό, λόγω έλλειψης common sense(αντίληψη των νόμων της πραγματικότητας). Ή να αναγνωρίσουν την ύπαρξη καθρεφτών. Και πολλά άλλα.

Το μήνυμα που θέλει να περάσει είναι ότι στο χώρο της τεχνητής νοημοσύνης χρειαζόμαστε λιγότερους πληροφορικάριους/μαθηματικούς και περισσότερους νευροεπιστήμονες για την κατασκευή πιο ρεαλιστικών νευρωνικών δικτύων. Τα τωρινά ΝΝ βασίζονται σε γνώσεις νευροεπιστήμης του 1950-60. 

edit:

Φωτογραφία που ένα ΝΝ αναγνώρισε με μεγάλη σιγουριά(91%) ως γάτα, παρά το γεγονός ότι είναι ένα κολάζ από κομμάτια γάτας που έχουν ανακατευτεί τυχαία μεταξύ τους. Δηλαδή καμία αντίληψη της χωρικής διάταξης των υπομοτίβων που απαρτίζουν μια γάτα(τρίχωμα, αυτιά, μύτη κτλ.). Σαν αυτή που έχει και ο πιο ηλίθιος άνθρωπος. Και θέλετε αυτά τα σκουπίδια να οδηγούν στους δρόμους;

Πιο κάτω ένα αφηρημένο σχέδιο που η στατιστική λογική των deep learning συστημάτων αναγνωρίζει με 98% σιγουριά ως αιγυπτιακή γάτα.

Επεξ/σία 1 Ιουνίου 2018 από pirmen56

[logistoulis]

Άμα φωτίσεις καλύτερα τις φωτογραφίες θα καταλάβουν ότι δεν είναι γάτες, μάλλον ήταν πολύ σκοτεινό το δωμάτιο

[pirmen56]

Η κουτουρού αναγνώριση μοτίβων(σαν τις περιπτώσεις που δείχνω πιο πάνω) είναι μεγάλο πρόβλημα. Θυμάμαι σε απόσπασμα εκπομπής για τα Tesla(deep learning powered by nvidia), που ανέβηκε στο youtube και το πόσταρε κάποιος εδώ, ένας κάτοχος ανέφερε ότι το όχημα του αρκετές φορές αναγνώριζε ανύπαρκτα αυτοκίνητα μπροστά του και έκανε ελιγμούς αποφυγής ή μείωνε ταχύτητα.

Στο ατύχημα της Uber αναφέρθηκε ότι κάποια στιγμή το όχημα αντιλήφθηκε τη γυναίκα πεζό, αλλά δεν μπορούσε να αποφασίσει τι ακριβώς είδους αντικείμενο είναι(ανάμεσα σε στατικό ή ταχέως κινούμενο). Επειδή τα μοντέλα αυτά ήταν προγραμματισμένα να μην φρενάρουν απότομα σε τέτοιες καταστάσεις , πιθανότατα λόγω των glitch που ανέφερα παραπάνω, τελικά συνέχισε την πορεία του και την χτύπησε.

Κλείνοντας, να πω ότι η οδήγηση οχημάτων και γενικότερα η πλοήγηση ενός ζώου μέσα στον αληθινό κόσμο απαιτεί αναρίθμητες κρίσεις σε κάθε κλάσμα του δευτερολέπτου. Η φύση μέσα από εκατομμύρια χρόνια εξέλιξης και τυχαίες μεταλλάξεις σε τεράστιους πληθυσμούς ζώων κατάφερε να δημιουργήσει μηχανισμούς που τα κάνουν όλα αυτά ασυνείδητα και ακαριαία. Το μπολντ είναι εκείνο που ξεγελάει τους περισσότερους ανθρώπους και νομίζουν ότι είναι κάτι απλό.  Βλέπουν την επιφάνεια του φαινομένου.

[Fubar.gr]

6 ώρες πριν, pirmen56 είπε

Η κουτουρού αναγνώριση μοτίβων(σαν τις περιπτώσεις που δείχνω πιο πάνω) είναι μεγάλο πρόβλημα. Θυμάμαι σε απόσπασμα εκπομπής για τα Tesla(deep learning powered by nvidia), που ανέβηκε στο youtube και το πόσταρε κάποιος εδώ, ένας κάτοχος ανέφερε ότι το όχημα του αρκετές φορές αναγνώριζε ανύπαρκτα αυτοκίνητα μπροστά του και έκανε ελιγμούς αποφυγής ή μείωνε ταχύτητα.

EAP with Update 2018.14.13 - Phantom Braking

EAP on Model 3 suddenly slammed on brakes on the freeway even though there was 0 traffic

Γνωστό πρόβλημα που ακόμα δέν έχει λυθεί. Φαίνεται οτι μπερδεύεται απο τις σκιές στο δρόμο και τσαρουχώνει τα φρένα, με κίνδυνο κάποιος να πέσει απο πίσω.