Ένοχη δήλωσε η οδηγός ασφαλείας του αυτόνομου οχήματος της Uber που ενεπλάκη σε θανατηφόρο τροχαίο ατύχημα

[Madness1]

Πόσα πήρε για να δηλώσει ενοχή δεν μας λενε

[Ukforthemoment]

3 λεπτά πριν, Madness1 είπε

Πόσα πήρε για να δηλώσει ενοχή δεν μας λενε

Γιατί να σας πουν;

Επεξ/σία 2 Αυγούστου 2023 από Ukforthemoment

[Armoral]

2 ώρες πριν, Reptile47 είπε

Εχουν γινει οι δοκιμες σε ελεγχομενο περιβαλλον, η εταιρεια εχει συντάξει safety case,  το safety case εχει εγκριθει απο το ελεγκτικο συμβουλιο της πολιτειας, η οποια εκρινε οτι ειναι επαρκες και εδωσε αδεια στην εταιρεια να κανει δοκιμες σε κανονικο δρομο , με τον safety driver να αναλαμβάνει την εποπτεια του συστηματος... 

Δεν προβλεπεται να τιμωρηθει η εταιρεια, οχι σε trial τουλαχιστον. Η Πολιτεια ενεκρινε safety case και risk assessment, στα οποια υπευθυνος ειναι ο safety driver. Εχει λαβει ειδικη εκπαιδευση για να αναλαμβανει τον ελεγχο σε περιπτωση που το συστημα παρουσιασει σφαλμα. 

Άμα είναι trial Οκ. Ας σκοτώσουν καμιά δεκαριά ακόμη μέχρι να τα καταφέρουν.

[anax111]

.....Το αυτοκίνητο εντόπισε την Elaine Herzberg να διασχίζει τον δρόμο με το ποδήλατό της 5,6 δευτερόλεπτα πριν από την πρόσκρουση ωστόσο παρόλο που το σύστημα συνέχισε να την παρακολουθεί μέχρι τελικά να την χτυπήσει θανάσιμα, δεν κατάφερε να την αναγνωρίσει σωστά ως πεζό για να ενεργοποιηθεί το αυτόματο σύστημα πέδησης αλλά ούτε κατάφερε να εκτιμήσει την πορεία της για να προχωρήσει σε κάποια μανούβρα αποφυγής......

 

Μισό λεπτό να καταλάβω: Το αυτόματο σύστημα εντόπισε ένα κινούμενο εμπόδιο του οποίου δεν μπορούσε να προβλέψει την πορεία και πήγε και στούκαρε επάνω του! Δεν άλλαξε πορεία, δεν πάτησε καν φρένο (!) δεν έκοψε ταχύτητα, απλά το εντόπισε, το παρακολούθησε και στούκαρε πάνω του!  Για ποιο λόγο; Για να το εξολοθρεύσει; Συγνώμη αλλά τι sc@t@ προγραμματισμό έχει αυτό το αυτόματο σύστημα; Ποιος ηλίθιος το προγραμμάτισε;  Η λογική αντίδραση του συστήματος από την στιγμή που εντόπισε ένα απρόβλεπτο εμπόδιο στον δρόμο, οποιουδήποτε είδους,  θα ήταν να κόψει άμεσα ταχύτητα και εάν υπάρχει οποιαδήποτε πιθανότητα σύγκρουσης να σταματήσει τελείως το όχημα. Αντ' αυτού το σύστημα αφού εντόπισε τον πεζό πήγε και έπεσε πάνω του!  Εμένα αυτό δεν μου μοιάζει για σύστημα αυτόματης οδήγησης αλλά για σύστημα εγκλωβισμού στόχων!  Από που διάολο ξεσήκωσε αυτό το πρόγραμμα η Uber; Από τα F16; Αλλοίμονό μας εάν έρθει αυτό το σύστημα και προς τα μας. Έτσι όπως οι πεζοί εδώ πέρα δεν τηρούν ούτε τις διαβάσεις και περνάν τον δρόμο από όπου τους καπνίσει τα αυτόνομα οχήματα της Uber θα τους λιανίσουν!  

[Reptile47]

21 λεπτά πριν, Armoral είπε

Άμα είναι trial Οκ. Ας σκοτώσουν καμιά δεκαριά ακόμη μέχρι να τα καταφέρουν.

Αν η safety driver εκανε σωστα τη δουλεια της, δεν θα σκοτωνε κανεναν... Το συστημα ειχε σχεδιαστει με τον safety driver in the loop. Απο τη στιγμη που η safety driver εβεπε βιντεακια και δεν ηταν engaged στην οδηγηση, μιλαμε για αλλο συστημα.
Για παραδειγμα, ενα συμβατικό αυτοκινητο με απλο cruise control εχει σχεδιαστει με τον οδηγο in the loop: αν πλησιασει πολυ κοντα στο προπορευομενο οχημα πρεπει ο οδηγος να παρεμβει και να μειωσει ταχυτητα αλλιως θα συγκρουστουν.  Δεν μπορεις να πεις οτι φταιει το συστημα αν ο οδηγος δεν κανει αυτο που πρεπει, για τον οποιονδηποτε λογο...
Το δυσκολο με αυτα τα trials ειναι οτι ο safety driver μετα απο μερες/μηνες οδηγησης εμπιστευεται τοσο πολυ το συστημα που η προσοχη του αποσπαται απο την οδηγηση ολο και περισσοτερο. Πλεον στα trials οι εταιρειες εγκαθιστουν συστηματα που παρακολουθουν την ιριδα του safety driver και μπορουν να εξασφαλισουν οτι τουλαχιστον κοιταει το δρομο και δεν χαζευει στο κινητο ή κοιμαται...
 

26 λεπτά πριν, anax111 είπε

.....Το αυτοκίνητο εντόπισε την Elaine Herzberg να διασχίζει τον δρόμο με το ποδήλατό της 5,6 δευτερόλεπτα πριν από την πρόσκρουση ωστόσο παρόλο που το σύστημα συνέχισε να την παρακολουθεί μέχρι τελικά να την χτυπήσει θανάσιμα, δεν κατάφερε να την αναγνωρίσει σωστά ως πεζό για να ενεργοποιηθεί το αυτόματο σύστημα πέδησης αλλά ούτε κατάφερε να εκτιμήσει την πορεία της για να προχωρήσει σε κάποια μανούβρα αποφυγής......

 

Μισό λεπτό να καταλάβω: Το αυτόματο σύστημα εντόπισε ένα κινούμενο εμπόδιο του οποίου δεν μπορούσε να προβλέψει την πορεία και πήγε και στούκαρε επάνω του! Δεν άλλαξε πορεία, δεν πάτησε καν φρένο (!) δεν έκοψε ταχύτητα, απλά το εντόπισε, το παρακολούθησε και στούκαρε πάνω του!  Για ποιο λόγο; Για να το εξολοθρεύσει; Συγνώμη αλλά τι sc@t@ προγραμματισμό έχει αυτό το αυτόματο σύστημα; Ποιος ηλίθιος το προγραμμάτισε;  Η λογική αντίδραση του συστήματος από την στιγμή που εντόπισε ένα απρόβλεπτο εμπόδιο στον δρόμο, οποιουδήποτε είδους,  θα ήταν να κόψει άμεσα ταχύτητα και εάν υπάρχει οποιαδήποτε πιθανότητα σύγκρουσης να σταματήσει τελείως το όχημα. Αντ' αυτού το σύστημα αφού εντόπισε τον πεζό πήγε και έπεσε πάνω του!  Εμένα αυτό δεν μου μοιάζει για σύστημα αυτόματης οδήγησης αλλά για σύστημα εγκλωβισμού στόχων!  Από που διάολο ξεσήκωσε αυτό το πρόγραμμα η Uber; Από τα F16; Αλλοίμονό μας εάν έρθει αυτό το σύστημα και προς τα μας. Έτσι όπως οι πεζοί εδώ πέρα δεν τηρούν ούτε τις διαβάσεις και περνάν τον δρόμο από όπου τους καπνίσει τα αυτόνομα οχήματα της Uber θα τους λιανίσουν!  

Ο πιθανοτερος λογος που το συστημα δεν ενεργησε στον στοχο ειναι οτι τον θεωρησε false positive. To object recognition γινεται μεσα απο deep learning αλγοριθμο και μαλλον το δειγμα που χρησιμοποιηθηκε δεν ηταν επαρκες ωστε να αναγνωριστει ο ανθρωπος σωστα.
Τα false positive ειναι τα πιο δυσκολα στην αντιμετωπιση. Αν το οχημα φρεναρε σε οτιδηποτε αγνωστο εβλεπε στο δρομο τα ατυχηματα θα ηταν πολυ περισσοτερα. Σκεψου για παραδειγμα οδηγη στην Εθνικη, ο μπροστινος παταει ενα σκουπιδι (μια σακουλα πχ) και το οχημα ξαφνικα φρεναρει απο το πουθενα με 120 km/h. Ή ακομα οδγηση στην πολη και πεφτουν φυλλα απο ενα δεντρο...
Σιγουρα το συστημα θα επρεπε σε 5.6 δευτερολεπτα να αναγνωρισει τον ανθρωπο αλλα γι'αυτο εχεις στα trials εναν safety driver. Η διαδικασια θα ηταν να αναλαβει τον ελεγχο, να κανει report το περιστατικο και μετα η AI team εμπλουτιζει το perception data set με αντιπροσωπευτικο υλικο ωστε να αναγνωριζονται και οι πεζοι που κρατανε το ποδηλατο στο χερι... 

[Dark_Nightfall]

1 ώρα πριν, anax111 είπε

Συγνώμη αλλά τι sc@t@ προγραμματισμό έχει αυτό το αυτόματο σύστημα; Ποιος ηλίθιος το προγραμμάτισε;  Η λογική αντίδραση του συστήματος από την στιγμή που εντόπισε ένα απρόβλεπτο εμπόδιο στον δρόμο, οποιουδήποτε είδους,  θα ήταν να κόψει άμεσα ταχύτητα και εάν υπάρχει οποιαδήποτε πιθανότητα σύγκρουσης να σταματήσει τελείως το όχημα. Αντ' αυτού το σύστημα αφού εντόπισε τον πεζό πήγε και έπεσε πάνω του!  

 

[Vasilisxd]

1 hour ago, anax111 said:

.....Το αυτοκίνητο εντόπισε την Elaine Herzberg να διασχίζει τον δρόμο με το ποδήλατό της 5,6 δευτερόλεπτα πριν από την πρόσκρουση ωστόσο παρόλο που το σύστημα συνέχισε να την παρακολουθεί μέχρι τελικά να την χτυπήσει θανάσιμα, δεν κατάφερε να την αναγνωρίσει σωστά ως πεζό για να ενεργοποιηθεί το αυτόματο σύστημα πέδησης αλλά ούτε κατάφερε να εκτιμήσει την πορεία της για να προχωρήσει σε κάποια μανούβρα αποφυγής......

 

Μισό λεπτό να καταλάβω: Το αυτόματο σύστημα εντόπισε ένα κινούμενο εμπόδιο του οποίου δεν μπορούσε να προβλέψει την πορεία και πήγε και στούκαρε επάνω του! Δεν άλλαξε πορεία, δεν πάτησε καν φρένο (!) δεν έκοψε ταχύτητα, απλά το εντόπισε, το παρακολούθησε και στούκαρε πάνω του!  Για ποιο λόγο; Για να το εξολοθρεύσει; Συγνώμη αλλά τι sc@t@ προγραμματισμό έχει αυτό το αυτόματο σύστημα; Ποιος ηλίθιος το προγραμμάτισε;  Η λογική αντίδραση του συστήματος από την στιγμή που εντόπισε ένα απρόβλεπτο εμπόδιο στον δρόμο, οποιουδήποτε είδους,  θα ήταν να κόψει άμεσα ταχύτητα και εάν υπάρχει οποιαδήποτε πιθανότητα σύγκρουσης να σταματήσει τελείως το όχημα. Αντ' αυτού το σύστημα αφού εντόπισε τον πεζό πήγε και έπεσε πάνω του!  Εμένα αυτό δεν μου μοιάζει για σύστημα αυτόματης οδήγησης αλλά για σύστημα εγκλωβισμού στόχων!  Από που διάολο ξεσήκωσε αυτό το πρόγραμμα η Uber; Από τα F16; Αλλοίμονό μας εάν έρθει αυτό το σύστημα και προς τα μας. Έτσι όπως οι πεζοί εδώ πέρα δεν τηρούν ούτε τις διαβάσεις και περνάν τον δρόμο από όπου τους καπνίσει τα αυτόνομα οχήματα της Uber θα τους λιανίσουν!  

"Κάτι ακόμα που έγινε γνωστό, είναι ότι η εργοστασιακή ρύθμιση του οχήματος όσον αφορά την αυτόματη πέδηση έκτακτης ανάγκης είχε απενεργοποιηθεί"

[Reptile47]

3 λεπτά πριν, Vasilisxd είπε

"Κάτι ακόμα που έγινε γνωστό, είναι ότι η εργοστασιακή ρύθμιση του οχήματος όσον αφορά την αυτόματη πέδηση έκτακτης ανάγκης είχε απενεργοποιηθεί"

Λογικο ειναι. Το συστημα υποτιθεται οτι θα ειχε τον ελεγχο του οχηματος. Αν η εργοστασιακη ρυθμιση ηταν ενεργοποιημενη δεν θα ηξερε η εταιρεια αν ηταν το AEB ή το αυτονομο συστημα που πηρε την αποφαση... Ειναι σαν να θες να δοκιμασεις την αποδοση της μπαταριας του κινητου σου και να το εχεις στη φορτιση...

[taris]

Yπάρχει ένα βίντεο στο youtube που έβαλαν ένα tesla σε ελληνικό δρόμο επαρχιακό (έναν κανονικό επαρχιακό δρόμο, όχι κανέναν κατσικόδρομο επικίνδυνο)  και η αυτόματη οδήγησή του είναι ένα κλικ κάτω από μαθητή οδηγό. Που ήπιε μπύρες πριν το μαθημα. Τα προσεκτικά curated βιντεάκια της σουπερ-γουαου αυτόματης οδήγησης σε ανοιχτές και χιλιοδοκιμασμένες εθνικές λεωφόρους ήταν ωραία για διαφήμιση-προπαγάνδα-σπέκουλα χρηματιστηριακών μετοχών, αλλά στην πραγματικότητα σε κανονικούς άγνωστους δρόμου οι "αυτόματοι πιλότοι" (που του χρόνου θα είναι έτοιμοι, κάθε χρόνο, εδώ και 7-8 χρόνια) είναι ακόμα... επικίνδυνοι. Βασικά, στο τέλος του δρόμου (το λογοπαίγνιο κατά λάθος), η "αυτόματη οδήγηση" παραμένει ένα glorified cruise control και κατά πόσο θα γίνει κάτι περισσότερο παραμένει ζητούμενο. Ίσως του χρόνου. Όπως κάθε χρονιά.

Επεξ/σία 2 Αυγούστου 2023 από taris

[sv398]

5 hours ago, Tlykog said:

 Πέρα από την πλάκα, δυστυχώς, το ατύχημα ήταν θανατηφόρο και ήρθε να μας θυμίσει ότι η αυτόνομη οδήγηση έχει προχωρήσει πολύ, αλλά θέλει ακόμα δουλειά...

Ενώ η χειροκίνητη οδήγηση είναι στο ύψιστο επίπεδο και δεν θέλει καθόλου δουλειά, LOL!

[klaftop]

6 hours ago, herbalife3 said:

Αν είναι δυνατόν η άλλη έβλεπε voice σου λέει οκ το αμάξι πάει μόνο του... Ημαρτον 

απο την αλλη , οπως εγινε και με την τεσλα το οτι ουσιαστικα οι μηχανικοι εσωζαν χειροκινητα το autopilot στις δοκιμες εχει προκαλεσει πολλαπλασιους θανατους τους οποιους η τεσλα εχει ειδική ομάδα για να τους κρυβει απο τα Media

1 hour ago, sv398 said:

Ενώ η χειροκίνητη οδήγηση είναι στο ύψιστο επίπεδο και δεν θέλει καθόλου δουλειά, LOL!

το θεμα ειναι αν σκοτωσεις κοσμο με αυτονομη οδηγηση ποιος παει φυλακή εσυ ή η εταιρια;  ΕΣΥ γιατι το AI δεν κατάλαβε κατι που ουτε καν θα παει το μυαλο σου γιατι για εναν ανθρωπο ειναι τοσο αυτονοητο. Ψαξε να δεις πως εχει σκοτωσει το τεσλα και δε θα το πιστευεις για ποιο λογο απετυχε το ΑΙ

[apos]

5 ώρες πριν, Reptile47 είπε

Εχουν γινει οι δοκιμες σε ελεγχομενο περιβαλλον, η εταιρεια εχει συντάξει safety case,  το safety case εχει εγκριθει απο το ελεγκτικο συμβουλιο της πολιτειας, η οποια εκρινε οτι ειναι επαρκες και εδωσε αδεια στην εταιρεια να κανει δοκιμες σε κανονικο δρομο , με τον safety driver να αναλαμβάνει την εποπτεια του συστηματος... 

Δεν προβλεπεται να τιμωρηθει η εταιρεια, οχι σε trial τουλαχιστον. Η Πολιτεια ενεκρινε safety case και risk assessment, στα οποια υπευθυνος ειναι ο safety driver. Εχει λαβει ειδικη εκπαιδευση για να αναλαμβανει τον ελεγχο σε περιπτωση που το συστημα παρουσιασει σφαλμα. 

Ωραία τα λες, και με τις ορολογίες σου και τα όλα σου. Παρόλα αυτά, ακόμα και αν υπάρχει νομική κάλυψη της εταιρείας (κακώς - με ο,τι κι αν σημαίνει αυτό στο πώς κατέληξε να δοθεί) δεν νοείται να μην έχει ευθύνη ΚΑΙ η εταιρεία. Ο,ΤΙ μα Ο,ΤΙ κι αν έκανε ο οδηγός. Υπάλληλος της εταιρείας είναι, έχει αντικειμενική ευθύνη.

[Tetrabitos]

4 ώρες πριν, Nikk B. Archss είπε

Σκοτώνεις άνθρωπο και δεν έχει καμία ευθύνη η εταιρεία που έβγαλε στο δρόμο ένα ημιτελές σύστημα δοκιμαστικά. Κάνεις δοκιμές σε δρόμο με ανθρώπους χωρίς συγκεκριμένες ευθύνες και ότι να νε μισές άδειες που εκεί φταίνε οι κρατικοί φορείς, λίγο περίεργο. Και η οδηγός ασφαλείας απλά τρία χρόνια με αναστολή. Πόσο λίγο αξίζει η ανθρώπινη ζωή πια; Τόσα δις έχουμε μαζευτεί να μου πείτε

Μήπως ήταν άστεγη αυτή που σκότωσε. Αν ήταν, δεν έχει και πολύ αξία η ζωή της, δυστυχώς.

[safridia]

3 ώρες πριν, anax111 είπε

.....Το αυτοκίνητο εντόπισε την Elaine Herzberg να διασχίζει τον δρόμο με το ποδήλατό της 5,6 δευτερόλεπτα πριν από την πρόσκρουση ωστόσο παρόλο που το σύστημα συνέχισε να την παρακολουθεί μέχρι τελικά να την χτυπήσει θανάσιμα, δεν κατάφερε να την αναγνωρίσει σωστά ως πεζό για να ενεργοποιηθεί το αυτόματο σύστημα πέδησης αλλά ούτε κατάφερε να εκτιμήσει την πορεία της για να προχωρήσει σε κάποια μανούβρα αποφυγής......

 

Μισό λεπτό να καταλάβω: Το αυτόματο σύστημα εντόπισε ένα κινούμενο εμπόδιο του οποίου δεν μπορούσε να προβλέψει την πορεία και πήγε και στούκαρε επάνω του! Δεν άλλαξε πορεία, δεν πάτησε καν φρένο (!) δεν έκοψε ταχύτητα, απλά το εντόπισε, το παρακολούθησε και στούκαρε πάνω του!  Για ποιο λόγο; Για να το εξολοθρεύσει; Συγνώμη αλλά τι sc@t@ προγραμματισμό έχει αυτό το αυτόματο σύστημα; Ποιος ηλίθιος το προγραμμάτισε;  Η λογική αντίδραση του συστήματος από την στιγμή που εντόπισε ένα απρόβλεπτο εμπόδιο στον δρόμο, οποιουδήποτε είδους,  θα ήταν να κόψει άμεσα ταχύτητα και εάν υπάρχει οποιαδήποτε πιθανότητα σύγκρουσης να σταματήσει τελείως το όχημα. Αντ' αυτού το σύστημα αφού εντόπισε τον πεζό πήγε και έπεσε πάνω του!  Εμένα αυτό δεν μου μοιάζει για σύστημα αυτόματης οδήγησης αλλά για σύστημα εγκλωβισμού στόχων!  Από που διάολο ξεσήκωσε αυτό το πρόγραμμα η Uber; Από τα F16; Αλλοίμονό μας εάν έρθει αυτό το σύστημα και προς τα μας. Έτσι όπως οι πεζοί εδώ πέρα δεν τηρούν ούτε τις διαβάσεις και περνάν τον δρόμο από όπου τους καπνίσει τα αυτόνομα οχήματα της Uber θα τους λιανίσουν!  

Ειχε κανει σαλο αυτο τοτε που εγινε.
Τοτε ελεγαν οτι η νεκρη πλεον γυναικα ειχε φορτωσει στο ποδηλατο σακουλες με πραγματα, και το χαζο συστημα ειδε τα παντα αλλα νομιζε οτι ειναι σακουλες που τις φυσαει ο αερας.
Τραγικο. Αλλα πρεπει να επιμεινουμε σε αυτη την τεχνολογια γιατι μονο ετσι θα σωθουν χιλιαδες ζωες στο μελλον. Οταν τελειοποιηθουν αυτα τα συστηματα τα ατυχηματα/δυστηχηματα θα πανε καρφι στο 0.
Μεχρι να γινει αυτο θα πρεπει να περασει νομος ολα τα νεα αυτοκινητα να εχουν 10 καμερες να γραφουν ολογυρα για να μπορει να βγει ακρη ποιος εκανε την μαλακια στον δρομο.
ΕΧΩ ΚΟΥΡΑΣΤΕΙ ΝΑ ΜΟΥ ΠΑΡΑΒΙΑΖΟΥΝ ΠΡΟΤΕΡΑΙΟΤΗΤΑ/ΣΤΟΠ/ΦΑΝΑΡΙ ΚΑΙ ΝΑ ΜΟΥ ΛΕΝΕ ΔΕΝ ΑΚΟΥΜΠΗΣΑΜΕ/ ΜΑ ΚΑΛΑ ΔΕΝ ΜΕ ΕΙΔΕΣ και λοιπες εξυπναδες

εχω κανει και εγω μαλακιες στον δρομο, αλλα βγαινω και ζηταω συγνωμη οχι να το παιζω ιστορια "ΔΕΝ ΜΕ ΕΙΔΕΣ"

 

[Tlykog]

1 ώρα πριν, sv398 είπε

Ενώ η χειροκίνητη οδήγηση είναι στο ύψιστο επίπεδο και δεν θέλει καθόλου δουλειά, LOL!

Αυτό που απαντάς είναι άσχετο.

Δεν έκανα καμία σύγκριση. Μίλησα καθαρά για την αυτόνομη οδήγηση.