Πρώτος θάνατος πεζού εξαιτίας αυτόνομου οχήματος

[logistoulis]

Στα πράγματα που δουλεύετε πεθαίνουν άνθρωποι αν κάτι πάει στραβά;

[pirmen56]

6 λεπτά πριν, Lezantas26 είπε

δε διαφωνω μ οτι λες, αλλα τι προτινεις δηλαδη να σταματησει το development?

μη ξεχναμε οτι στα τροχαια το 88% ειναι υπαιτιος ο οδηγος και 10% ο δρομος, που γνωμη μου ειναι οτι παλι ο οδηγος φταιει (το αλλο 2% δεν θυμαμαι τι ειναι)

καλως ή κακως χρειαζεται η μετακινηση να ειναι ανεξαρτητη απο τον ανθρωπινο παραγοντα, εντος κατοικημενων περιοχων τουλαχιστον.

Αν ήμουν κράτος θα έριχνα όλο το βάρος στην κατανόηση των απλούστερων βιολογικών εγκεφάλων, οι οποίοι χαρακτηρίζονται από εξαιρετικές ικανότητες πλοήγησης δεδομένου του μεγέθους τους. Ευτυχώς τρέχουν αρκετά τέτοια projects για έντομα π.χ. Και δεν θα έδινα φράγκο σε όσους ακόμα πιστεύουν ότι η μπεϋζιανή στατιστική είναι το κλειδί για τα πάντα.

[Omnigeek]

6 λεπτά πριν, pirmen56 είπε

Έχεις σκεφτεί ότι η μικρότερη μονάδα αναγνώρισης μοτίβων στον εγκέφαλο όλων των ζώων είναι ο νευρώνας(ενδεχομένως να γίνεται επεξεργασία και σε κατώτερο επίπεδο) και αυτή τη στιγμή που μιλάμε η λειτουργία του παραμένει άγνωστη;

Ψάξτο, αν πιστεύεις ότι σου λέω πίπες. Δες απαντήσεις από νευροεπιστήμονες στο Quora.

Έχεις σκεφτεί ότι επιτεύχθηκε εξομοίωση ολόκληρου του εγκεφάλου του σκουληκιού C.elegans(με 300 νευρώνες) αλλά κανένας δεν μπορεί να εξηγήσει πώς αυτό το μικροσκοπικό πλάσμα ανακαλύπτει μοτίβα μέσα από έλάχιστο πλήθος παραδειγμάτων που κανένας ανθρώπινος στατιστικός ή άλλος αλγόριθμος δεν μπορεί;

Αν ακούσεις ηγέτες του σύγχρονου ΑΙ, χαρακτηριζόμενους από ειλικρίνεια, όπως ο Yann LeCun, ο Hassabis κτλ. θα καταλάβεις ότι οι περισσότεροι παραμυθιάζουν τον κόσμο για να "τρώνε" ερευνητικά κονδύλια.

Όλοι όσοι ασχολούνται με το AI σε ιδιωτικές εταιρίες, πανεπιστήμια κτλ είναι δηλαδή είτε άσχετοι και ανίκανοι ή απατεώνες;

[orgixmh]

Κρίμα στην γυναίκα, πραγματικά κρίμα, εύχομαι η παραπάνω ιστορία να γίνει παράδειγμα προς αποφυγή, δεν είναι δυνατόν μία εταιρία να κάνει τον πραγματικό κόσμο εργαστήριο πειραμάτων, ακόμα και αν σκοπός είναι προς όφελος όλων. Δεν υπάρχει καμία δικαιολογία όταν όχημα σκοτώνει πεζό, ακόμα και αν ο πεζός παρανόμησε, όσοι πιστεύεται το αντίθετο έχετε σοβαρό πρόβλημα αντίληψης και καλό θα είναι να το κοιτάξετε.

Μπορώ να δικαιολογήσω το όχημα μόνο στην περίπτωση που ο πεζός έπεσε κυριολεκτικά πάνω του και δεν υπήρχε σε καμία περίπτωση τρόπος αποφυγής που να ήταν εφικτός από τον οδηγό ή το software, 

[Επισκέπτης]

1 λεπτό πριν, pirmen56 είπε

Αν ήμουν κράτος θα έριχνα όλο το βάρος στην κατανόηση των απλούστερων βιολογικών εγκεφάλων, οι οποίοι χαρακτηρίζονται από εξαιρετικές ικανότητες πλοήγησης δεδομένου του μεγέθους τους. Ευτυχώς τρέχουν αρκετά τέτοια projects για έντομα π.χ. Και δεν θα έδινα φράγκο σε όσους ακόμα πιστεύουν ότι η μπεϋζιανή στατιστική είναι το κλειδί για τα πάντα.

κατσε γιατι με πιανεις αδιαβαστο, τι ειναι η μπεϋζιανη στατιστικη

[pirmen56]

Μόλις τώρα, Omnigeek είπε

Όλοι όσοι ασχολούνται με το AI σε ιδιωτικές εταιρίες, πανεπιστήμια κτλ είναι δηλαδή είτε άσχετοι και ανίκανοι ή απατεώνες;

Ψάξε για "AI winter" για να καταλάβεις πόσο φτωχή ήταν για πολλές δεκαετίες(θα έλεγα και σήμερα) η αντίληψη των ανθρώπων του AI(μαθηματικοί και άνθρωποι της πληροφορικής) για τους βιολογικούς εγκεφάλους. Τα μόνα συστήματα με αποδεδειγμένο AI. Αναρωτήσου γιατί όλα αυτά τα λαμπρά μυαλά δεν μας εξήγησαν πρώτα πώς λειτουργούν οι βιολογικοί εγκάφαλοι. Αν διαβάσεις άρθρα απομυθοποίησης του deep learning και των στατιστικών μεθόδων θα αντιληφθείς σιγά σιγά το χάσμα που υπάρχει σε σχέση με τα έμβια όντα.

Μέχρι και σήμερα το AI είναι ένα είδος εξελιγμένης παλινδρόμησης για να προσεγγίσουμε τη σχέση/συνάρτηση που υπάρχει ανάμεσα σε κάποιες τιμές Χ και κάποιες άλλες τιμές Υ. Τα ζώα δεν λειτουργούν έτσι.

Τα ζώα παίρνουν ένα τεράστιο σετ δεδομένων και αρχίζουν να το ομαδοποιούν βάσει ομοιοτήτων. Τις οποίες ομοιότητες τις ανακαλύπτουν τα ίδια(που είναι και το παλούκι της υπόθεσης). Π.χ. αυτά τα ηχητικά κύματα όλα μαζί απαρτίζουν τον ήχο μιας κόρνας αυτοκινήτου. Αυτά τα "πίξελ" όλα μαζί αντιστοιχούν σε έναν άνθρωπο, ένα λουλούδι κτλ. 

Αυτό λέγεται unsupervised learning. Δεν υπάρχει κανενός είδους καθοδήγηση για το πόσα και ποιά μοτίβα υπάρχουν, πέρα από αυτή που εμπεριέχεται στα δεδομένα. Δεν υπάρχουν προκαθορισμένες από τον "Φούφουτο" επιλογές για να διαλέξουμε την πιο πιθανή βάσει μπεϋζιανής στατιστικής. 

[defacer]

26 minutes ago, logistoulis said:

Στα πράγματα που δουλεύετε πεθαίνουν άνθρωποι αν κάτι πάει στραβά;

Όχι, έχει κάποια σχέση αυτό με την ικανότητα τη δική μας ή άλλων να κατανοήσουμε την τεχνολογία που μας πληρώνουν για να κατανοούμε;

[pirmen56]

12 λεπτά πριν, Lezantas26 είπε

κατσε γιατι με πιανεις αδιαβαστο, τι ειναι η μπεϋζιανη στατιστικη

Είναι κλάδος της στατιστικής που ασχολείται για τις δεσμευμένες πιθανότητες. Ποιά είναι π.χ. η πιθανότητα ότι μέσα στα επόμενα 30 λεπτά θα βρέξει, έχοντας ως δεδομένο ότι ο ουρανός έχει σύννεφα. Κάνουμε εύλογες εκτιμήσεις βάσει παρελθούσης γνώσης και βελτιώνουμε παλιότερη γνώση υπό το φως νέων δεδομένων.

Αυτό το είδος στατιστικής χρησιμοποιείται π.χ. σε ΑΙ που κάνει μεταφράσεις για να βρεθεί η πιθανότερη ερμηνεία μιας λέξης, δεδομένων των συμφραζομένων. Για παράδειγμα ένας άνθρωπος λέει "Απόψε θα μαζευτούμε παρέα για να δούμε μπάλα". Με βάση τα συμφραζόμενα, η πιθανότερη ερμηνεία της λέξης μπάλα είναι ο ποδοσφαιρικός αγώνας και όχι π.χ. η μπάλα ως τόπι που κλωτσάμε.

Θεωρείται η καλύτερη τεχνητή μέθοδος για την προσέγγιση της ανθρώπινης κοινής λογικής.

Ο IBM Watson χρησιμοποίησε τέτοιες μεθόδους για να καταλάβει τις ερωτήσεις του παιχνιδιού Jeopardy. Κάνοντας κάποια τραγικά λάθη που η κοινή λογική κανενός ανθρώπου δεν θα έκανε. Η στατιστική είναι κακή απομίμηση της κοινής λογικής. Δεν έχει αποδειχθεί μέχρι στιγμής αν ο εγκεφαλος λειτουργεί μπεϋζιανά και κατά πάσα πιθανότητα δεν λειτουργεί έτσι.

[defacer]

@pirmen56 όμως δεν αναφέρεις την πολύ σημαντική ύπαρξη μιας scoring function, η οποία αποτελεί έμμεσο δεδομένο και χωρίς την οποία δεν έχει unsupervised ούτε στα μωρά ούτε στους υπολογιστές.

Επίσης, τι σημασία έχει αν κάνει κάποιος τραγικά λάθη όταν γενικά είναι καλύτερος σε απόδοση; Προφανώς όσο τραγικά κι αν βαφτίσουμε τα λάθη αυτά, ο ανταγωνισμός κάνει μεγαλύτερα/περισσότερα λάθη γιατί αλλιώς δε θα ήταν χειρότερος σε απόδοση. Μιλώντας για αυτοκίνητα, αν υποθέσουμε ότι έχουμε ένα που οδηγεί καλύτερα από ανθρώπους, τι σημασία έχει αν σε κάποια φάση κάνει κάτι τραγικό που άνθρωπος δε θα έκανε ποτέ εάν στο τέλος της ημέρας το AI έχει σκοτώσει 5 ανθρώπους και ο άνθρωπος 10;

[Fubar.gr]

Μερικές παρατηρήσεις: Καταρχάς έχουν μεγάλο ενδιαφέρον οι παρουσιάσεις του Amnon Shashua, CTO της Mobileye. Εξηγεί σε πολύ μεγάλο βαθμό πώς λειτουργούν αυτά τα συστήματα. Ενδεικτικά αυτό: https://www.youtube.com/watch?v=b_lBL2yhU5A και υπάρχουν πολλές άλλες παρουσιάσεις στο κανάλι της Mobileye στο youtube.

Η Mobileye αυτή τη στιγμή κατέχει περίπου το 70% της αγοράς των συστημάτων βοήθησης της οδήγησης στην παγκόσμια αυτοκινητοβιομηχανία.

Σχετικά με το οτι ήταν σκοτεινά, οπότε οι κάμερες δέν μπορούσαν να δούν. Οι κάμερες που χρησιμοποιούν για αυτό το σκοπό έχουν λίγα σχετικά megapixel, όμως το φυσικό μέγεθος του κάθε pixel στον αισθητήρα είναι μεγαλύτερο απ ότι στις κάμερες του εμπορίου. Αυτό δίνει μεγάλη ευαισθησία στην κάμερα στο φώς, οπότε μπορεί να δεί πολύ καλά ακόμα και με ελάχιστο φωτισμό.

Επιπλέον, οι κάμερες λειτουργούν σε μεγαλύτερο framerate απο αυτό που είναι απαραίτητο για το σύστημα, και αυτό γιατι κάθε frame λαμβάνεται με διαφορετική ρύθμιση έκθεσης. Έτσι η κάμερα (σχεδόν) ταυτόχρονα μπορεί να δεί και τα πολύ φωτεινά σημεία του δρόμου αλλά και τα πολύ σκοτεινά. Είναι δηλαδή παρόμοια τεχνική με αυτή που χρησιμοποιείται για τη λήψη φωτογραφιών HDR.

Όσον αφορά το οπτικό πεδίο, υπάρχουν μπροστά τουλάχιστον δύο κάμερες, μία στενού πεδίου και μία ευρέως πεδίου, καθώς και αρκετές πλευρικές.

Και το αυτοκίνητο δέν βασίζεται μόνο στις κάμερες, πάντα έχει και τουλάχιστον ένα ή περισσότερα στοιχεία redundancy, δηλαδή radar, lidar, χάρτες υψηλής ανάλυσης.

Οπότε η δικαιολογία οτι ο δρόμος ήταν σκοτεινός δέν στέκει. Ο δρόμος είχε φωτισμό, όπως φαίνεται απο το βίντεο στο σημείο του ατυχήματος, αλλά ακόμα και αν δέν είχε, οι κάμερες έχουν τόσο μεγάλη ευαισθησία που οι προβολείς του αυτοκινήτου αρκούν.

------------------------------

Ένα άλλο σημείο που θέλω να θίξω είναι αυτό που ειπώθηκε οτι οι άνθρωποι οδηγοί προκαλούν Χ ατυχήματα καθε μέρα, οπότε αν τα αυτοοδηγούμενα προκαλέσουν κάποια ατυχήματα δέν έχει τόση σημασία, καθώς προέχει η ανάπτυξη της τεχνολογίας.

Αυτό είναι εντελώς λάθος απο όλες τις απόψεις. Καταρχάς με το να συγκρίνουμε τα ατυχήματα των αυτοοδηγούμενων με τα ατυχήματα που προκαλούν οι άνθρωποι θέτουμε πολύ χαμηλά τον πήχη, γιατι βάζουμε μέσα όλους τους ηλικιωμένους, μεθυσμένους, χαπακωμένους κτλ οδηγούς. Τα αυτοοδηγούμενα θα πρέπει να προκαλούν σημαντικά χαμηλότερο αριθμό ατυχημάτων. Απο εδώ: https://spectrum.ieee.org/transportation/self-driving/creating-driving-tests-for-selfdriving-cars

In 9 out of 10 accidents resulting in fatalities or major injuries, mistakes by the driver are a contributing factor, according to multiple U.S. and U.K. sources. Because of this, the quick answer to what is “safe enough” is usually “better than a human driver.” But the devil is in the details. It’s too easy a challenge to surpass the drunken driver or even the statistically average driver. The median driver, you might argue, is not very good.

Το άρθρο στη συνέχεια λέει πως θα πρέπει να υπάρχουν λιγότερα απο ενα σφάλματα ανα δισεκατομμύριο ωρών λειτουργίας.

Το άλλο ζήτημα είναι η άποψη οτι θα πρέπει να σπάσουμε μερικά αυγά (θάνατοι και ατυχήματα με τα αυτοοδηγούμενα) προκειμένου να κάνουμε ομελέτα (βελτίωση της τεχνολογίας).

Εκτός του οτι αυτό είναι εντελώς ανήθικο, δέν είναι κάν οι μόνες δύο επιλογές που έχουμε. Η τεχνολογία μπορεί να βελτιωθεί και ταυτόχρονα να γίνει με έναν απόλυτα ασφαλή τρόπο.

Αυτή τη στιγμή έχουμε δύο κατηγορίες εταιριών που εμπλέκονται στην αυτοοδήγηση. Απο τη μία είναι οι σοβαρές εταιρίες που έχουν ξοδέψει πολλά χρήματα μέχρι τώρα και έχουν σημειώσει σημαντική πρόοδο κάνοντας ότι είναι δυνατόν ωστε οι δοκιμές να γίνονται με υπεύθυνο και ασφαλή τρόπο. Απο την άλλη είναι οι εταιρίες wannabees, (Tesla, Uber κτλ) οι οποίες νοιάζονται πιό πολύ να κερδίσουν πόντους στο PR πιέζοντας τα όρια της ασφάλειας, καθώς είναι πίσω σε σχέση με τους άλλους σε τεχνολογία.

Αυτοί κάνουν τη ζημιά σε όλο τον τομέα, καθώς τώρα η Toyota (και κάποιες άλλες εταιρίες) δήλωσε οτι σταματά οικοιωθελώς τις δοκιμές της. Αν συνεχιστούν τα ατυχήματα τότε είναι βέβαιο οτι είτε θα απαγορευτούν εντελώς οι δοκιμές, ή θα τεθεί ένα πάρα πολύ περιοριστικό πλαίσιο.

[pirmen56]

1 λεπτό πριν, defacer είπε

@pirmen56 όμως δεν αναφέρεις την πολύ σημαντική ύπαρξη μιας scoring function, η οποία αποτελεί έμμεσο δεδομένο και χωρίς την οποία δεν έχει unsupervised ούτε στα μωρά ούτε στους υπολογιστές.

Επίσης, τι σημασία έχει αν κάνει κάποιος τραγικά λάθη όταν γενικά είναι καλύτερος σε απόδοση; Προφανώς όσο τραγικά κι αν βαφτίσουμε τα λάθη αυτά, ο ανταγωνισμός κάνει μεγαλύτερα/περισσότερα λάθη γιατί αλλιώς δε θα ήταν χειρότερος σε απόδοση. Μιλώντας για αυτοκίνητα, αν υποθέσουμε ότι έχουμε ένα που οδηγεί καλύτερα από ανθρώπους, τι σημασία έχει αν σε κάποια φάση κάνει κάτι τραγικό που άνθρωπος δε θα έκανε ποτέ εάν στο τέλος της ημέρας το AI έχει σκοτώσει 5 ανθρώπους και ο άνθρωπος 10;

Θες να πεις ότι μας ενδιαφέρει το τελικό αποτέλεσμα. Ότι δεν μας νοιάζει αν τα αυτόνομα οχήματα αντιλαμβάνονται τον κόσμο όπως εμείς και έχεις δίκιο. Δυστυχώς όμως τα αποτελέσματα δείχνουν ότι η όποια αντίληψη των καταστάσεων είναι ακόμα προβληματική.

Σχετικά με τα ζώα, ο Demis Hassabis πρόσφατα μίλησε για την ανάγκη μεταφοράς στις μηχανές του conceptual learning που χαρακτηρίζει τα πρώτα.

Τα ζώα αντιλαμβάνονται concepts χωρίς καθοδήγηση χάρη στο unsupervised learning. Σκέψου έναν μαθηματικό ο οποίος παρατηρεί ότι κάποιοι αριθμοί έχουν τη μοναδική ιδιότητα να διαιρούνται μόνο με τον εαυτό τους και τη μονάδα. Οι λεγόμενοι πρώτοι αριθμοί. Αυτή η διάσπαση των αριθμών σε πρώτους και μη δεν υπαγορεύεται από πουθενά. Δεν υπάρχει κάποι σήμα πόνου-ηδονής που να σε οδηγήσει σε τέτοιο συμπέρασμα. Απλά κάποια στιγμή "βλέπεις" το κοινό μοτίβο που οδηγεί σε μια νέα υποκατηγορία αριθμών.

Οι στατιστικοί δεν έχουν δημιουργήσει τέτοιους αλγόριθμους μέχρι στιγμής. Από εμάς τους ίδιους όμως ξέρουμε ότι υπάρχουν.

[primeragt]

Για τα στατιστικα και μονο θα πω οτι για να βγαλουμε ενα καλο στατιστικο του τι ειναι πιο ασφαλες το συμβατικο μοντελο ανθρωπος οδηγος-αυτοκινητο ή υπολογιστης - αυτοκινητο (τη δεδομενη στιγμη) θα πρεπει κατα την γνωμη μου να το κανουμε σε ενα οσο το δυνατον κλειστο οικοσυστημα. Δηλαδη να βρουν μια μικρη πολη σε μια επαρχεια καποιον μερικων χιλιαδων κατοικων και να τους δωσουν απο τα μισα αυτοκινητα με το συστημα αυτο κ τα υπολοιπα συμβατικα και μετα να βγαλουμε τα συμπερασματα για το πιο ειναι πιο ασφαλες σε ενα ευρος χρονου. Αυτο το λεω γιατι λεμε οτι εχουμε μερικες χιλιαδες ατυχηματα (θανατηφορα) παγκοσμιος με συμβατικα αυτοκινητα αναμεσα σε μερικες εκατονταδες εκκατομυρια αυτοκινητα και μερικα μετρημενα στα δακτυλα απο αυτονομα αναμεσα σε κατω απο 50000 αυτονομα (δεν βαζω επητιδες τα Tesla γιατι η αυτονομη εκει ειναι υπο προυποθεσεις και μονο supervised 100%). Μονο ετσι θα βγαλουμε ασφαλη συμπερασματα απο ιδιες συνθηκες γιατι δεν μπορουμε να λεμε για ατυχηματα και να μην βαζουμε τις συνθηκες στο παραγοντα. Αλλες συνθηκες εχεις στη Καλιφορνια και αλλες στη Βιρμανια ή σε απομακρισμενη επαρχια την Κινας.

[defacer]

6 minutes ago, Fubar.gr said:

Αυτό είναι εντελώς λάθος απο όλες τις απόψεις. Καταρχάς με το να συγκρίνουμε τα ατυχήματα των αυτοοδηγούμενων με τα ατυχήματα που προκαλούν οι άνθρωποι θέτουμε πολύ χαμηλά τον πήχη, γιατι βάζουμε μέσα όλους τους ηλικιωμένους, μεθυσμένους, χαπακωμένους κτλ οδηγούς. Τα αυτοοδηγούμενα θα πρέπει να προκαλούν σημαντικά χαμηλότερο αριθμό ατυχημάτων.

Δε νομίζω ότι σύγκρινε κανείς στο επίπεδο το 5 είναι μεγαλύτερο από το 4. Ακόμα κι έτσι να ήταν όμως, αυτό που λες δε βλέπω πως μπορεί να στέκει λογικά. Ακόμα και αν βάλουμε στη ζυγαριά και τους μεθυσμένους, με ποιο τρόπο είναι αυτό σφάλμα εφόσον de facto οι μεθυσμένοι που βάλαμε μέσα μπήκαν επειδή προκάλεσαν ατύχημα, και προκάλεσαν ατύχημα επειδή οδηγούσαν;

Αυτό το "θα πρέπει" και "πολύ χαμηλά τον πήχη", απόψεις με τις οποίες συμφωνώ για διαφορετικούς λόγους (τεχνικούς και ανθρώπινης ψυχολογίας), είναι τελείως αστήρικτο όταν μιλάμε στα πλαίσια λιγότεροι θάνατοι = καλό.

[billiboo]

7 ώρες πριν, BaggsR είπε

Ξεκάθαρα το φταίξιμο είναι της γυναίκας που επέλεξε να περάσει τον δρόμο χωρίς να υπάρχει διάβαση.

Είτε ήταν στον αυτόματο ή οδηγούσε ο μηχανικός, η κυρία δεν έπρεπε να βρίσκεται στο οδόστρωμα σε καμία περίπτωση.

ή δεν εχεις οδηγησει ποτε ή το πηρες νυχτα. εσενα δεν σου μαθανε οτι και απο διαβαση να μην ειναι δεν τον πατας?

 

Επεξ/σία 21 Μαρτίου 2018 από billiboo

[aris1986]

Πάτησε τους όλους έτσι Οργουελικα, σαν το Delirium ένα πράγμα..!

Ρε τι ακούμε.