cryptogram Δημοσ. 22 Απριλίου 2005 Δημοσ. 22 Απριλίου 2005 Το Κρυπτόγραμμα είναι η μετάφραση της εφημερίδας ασφαλείας του Bruce Schneier 'Crypto-Gram', η οποία αγγίζει πάνω από 100.000 άτομα παγκοσμίως. Το Κρυπτόγραμμα στεγάζεται στον ιστοχώρο http://www.cryptogram.gr και μετά από επικοινωνία με τον διαχειριστή του forum, δημιουργήθηκε αυτό το thread για την διάδοση του και για να μας πείτε τα σχόλιά σας. Ακολουθεί το τεύχος Απριλίου 2005. Κρυπτόγραμμα Απριλίου 2005 Σε αυτό το τεύχος: -Περισσότερα για την πιστοποίηση δύο παραγόντων -Μετριάζοντας τις κλοπές ταυτότητας -Ανατυπώσεις του Κρυπτογράμματος -Νέοι κίνδυνοι βιομετρικών στοιχείων -Νέα -Μία φοιτήτρια παραβιάζει το σύστημα για να αλλάξει τη βαθμολογία -Σημειώσεις περί ασφάλειας από όλο τον κόσμο: Καμουφλάζ σε χταπόδια -Παραβίαση της εκλογής του Πάπα -Στο μάτι του κυκλώνα: ExeShield -Το πρόγραμμα Secure Flight αντιμετωπίζει προβλήματα ©Copyright Cryptogram.gr 2004-2005 ------------------------------------------------------------------------ Περισσότερα για την πιστοποίηση δύο παραγόντων Πρόσφατα δημοσίευσα ένα δοκίμιο δηλώνοντας ότι η πιστοποίηση δύο παραγόντων δεν αποτελεί μέθοδο άμυνας κατά της κλοπής ταυτότητας. Για παράδειγμα, η έκδοση αδειοδοτικών σε πελάτες δικτυακών τραπεζικών λογαριασμών δεν θα μειώσει την απάτη, επειδή οι νέες τεχνικές επιθέσεων απλώς θα αγνοήσουν το εν λόγω μέτρο ασφαλείας. Δυστυχώς, ορισμένοι εξέλαβαν το δοκίμιό μου γενικά ως καταδίκη της πιστοποίησης δύο παραγόντων. Αυτό δεν είναι αλήθεια. Το ζήτημα είναι να κατανοήσουμε τις απειλές και τις επιθέσεις. Οι κωδικοί πρόσβασης απλά έπαψαν να είναι αποτελεσματικοί. Από τη στιγμή που έχει αυξηθεί η ταχύτητα των Η/Υ, το μάντεμα των κωδικών πρόσβασης έχει γίνει ευκολότερο. Όλο και πιο σύνθετοι κωδικοί απαιτούνται για να αποφεύγουν τα λογισμικά μαντέματος κωδικών. Παράλληλα, υπάρχει ένα ανώτατο όριο στη δυνατότητα των ανθρώπων να θυμούνται σύνθετους κωδικούς. Πριν από πέντε χρόνια περίπου, αυτές οι δύο γραμμές διασταυρώθηκαν. Δεν είναι λογικό να αναμένουμε από τους χρήστες να έχουν κωδικούς που δεν είναι δυνατό να τους μαντέψουμε. Η εποχή των κωδικών πρόσβασης έχει λάβει τέλος για οτιδήποτε απαιτεί σχετική ασφάλεια. Η πιστοποίηση δύο παραγόντων λύνει το πρόβλημα αυτό. Είναι αποτελεσματική απέναντι σε παθητικές επιθέσεις: λαθρακρόαση και μάντεμα κωδικών πρόσβασης. Παρέχει προστασία στους χρήστες που επιλέγουν εύκολους κωδικούς, αποκαλύπτουν τους κωδικούς τους σε συναδέλφους ή τους σημειώνουν σε χαρτιά και τα κολλούν στις οθόνες τους. Για έναν οργανισμό που προσπαθεί να βελτιώσει τον έλεγχο πρόσβασης των εργαζομένων, η πιστοποίηση δύο παραγόντων είναι μία καταπληκτική ιδέα. Μία άλλη καταπληκτική ιδέα είναι το γεγονός ότι η Microsoft θα υλοποιήσει την πιστοποίηση δύο παραγόντων στο λειτουργικό της σύστημα. Η πιστοποίηση δύο παραγόντων δεν θα αποτρέψει την κλοπή ταυτότητας και την απάτη. Θα αποτρέψει ορισμένες τακτικές της κλοπής ταυτότητας και της απάτης, αλλά οι εγκληματίες θα αλλάξουν τακτικές. Έχουμε ήδη παρατηρήσει τακτικές απάτης, οι οποίες αγνοούν εντελώς την πιστοποίηση δύο παραγόντων. Καθώς οι τράπεζες θα εφαρμόσουν την πιστοποίηση δύο παραγόντων, οι εγκληματίες απλώς θα στραφούν προς αυτές τις νέες τακτικές. Μία από τις απόψεις της πιστοποίησης δύο παραγόντων είναι ότι λύνει προβλήματα της ασφάλειας, συμπεριλαμβανομένης της πιστοποίησης. Το πρόσφατο κύμα των επιθέσεων κατά χρηματο-οικονομικών συστημάτων δεν εκμεταλλεύεται τις αδυναμίες στο σύστημα πιστοποίησης, οπότε η πιστοποίηση δύο παραγόντων δεν προσφέρει βοήθεια. Η ασφάλεια αποτελεί πάντοτε έναν αγώνα υπεροχής ∙ θα μπορούσαμε να πούμε ότι η κατάσταση αυτή αποτελεί απλώς το κόστος επιβίωσης. Το πρόβλημα με το συλλογισμό αυτό είναι ότι αγνοεί τα μέτρα που μειώνουν μόνιμα την απάτη. Εστιάζοντας στην πιστοποίηση του μεμονωμένου ατόμου αντί για την πιστοποίηση της συναλλαγής, οι τράπεζες αναγκάζονται να αμυνθούν κατά των εγκληματικών τακτικών αντί για το ίδιο το έγκλημα. Ένα τέλειο παράδειγμα είναι οι πιστωτικές κάρτες. Προσέξτε πόσο λίγη προσοχή δίνεται στην πιστοποίηση του δικαιούχου της κάρτας. Οι ταμίες σχεδόν ποτέ δεν ελέγχουν τις υπογραφές. Οι άνθρωποι χρησιμοποιούν τις πιστωτικές κάρτες τους από το τηλέφωνο και στο Διαδίκτυο, όπου η ύπαρξη της κάρτας δεν επιβεβαιώνεται ποτέ. Οι εταιρείες των πιστωτικών καρτών δαπανούν τα χρήματα ασφαλείας τους για να πιστοποιήσουν τη συναλλαγή και όχι το δικαιούχο της κάρτας. Η πιστοποίηση δύο παραγόντων αποτελεί μία λύση στο πρόβλημα των κωδικών πρόσβασης, η οποία έχει καθυστερήσει εδώ και πολύ καιρό. Εκτιμώ την αυξανόμενη δημοτικότητά της, αλλά η κλοπή ταυτότητας και η τραπεζική απάτη δεν οφείλονται στο πρόβλημα των κωδικών ∙ πηγάζουν από τις συναλλαγές που έχουν λάβει φτωχή πιστοποίηση. Όσο πιο σύντομα το συνειδητοποιήσει αυτό ο κόσμος, τόσο πιο σύντομα θα σταματήσουν να υποστηρίζουν τα μέτρα για πιο ισχυρή πιστοποίηση και η ασφάλεια πραγματικά θα βελτιωθεί. Το παρόν δοκίμιο αρχικά δημοσιεύθηκε στο Network World στη στήλη "Face Off." <http://www.nwfusion.com/columnists/2005/040405faceoff-counterpane.html> Ο Joe Uniejewski της RSA Security έγραψε μία αντίθετη άποψη: <http://www.nwfusion.com/columnists/2005/040405faceoff-rsa.html> Ακόμη μία διαφωνία: <http://www.eweek.com/article2/0,1759,1782435,00.asp> Περισσότερη κάλυψη: <http://searchsecurity.techtarget.com/originalContent/0,289142,sid14_gci1077406,00.html> Το αρχικό μου δοκίμιο: <http://www.schneier.com/essay-083.html> ------------------------------------------------------------------------ Μετριάζοντας τις κλοπές ταυτότητας Η κλοπή ταυτότητας αποτελεί το νέο έγκλημα στην εποχή της πληροφορίας. Ένας εγκληματίας συλλέγει αρκετά προσωπικά στοιχεία για κάποιο πρόσωπο με σκοπό να υποδυθεί το θύμα σε τράπεζες, εταιρείες πιστωτικών καρτών και άλλους χρηματο-οικονομικούς οργανισμούς. Στη συνέχεια, συγκεντρώνει τα χρέη στο όνομα του θύματος, παίρνει το ρευστό και εξαφανίζεται και το θύμα μένει με άδεια χέρια. Ενώ μερικές από τις απώλειες απορροφούνται από χρηματο-οικονομικούς οργανισμούς – συγκεκριμένα από τις εταιρείες πιστωτικών καρτών – το θύμα επιβαρύνεται με τη ζημία του πιστωτικού ορίου και μπορεί να είναι χρονοβόρο να αποκαταστήσει το όνομά του. Δυστυχώς, οι λύσεις που προτείνονται στο Κογκρέσο δεν πρόκειται να βοηθήσουν. Για να καταλάβετε το γιατί, θα ξεκινήσω από τα βασικά. Ο ίδιος ο όρος «κλοπή ταυτότητας» είναι σχήμα οξύμωρο. Η ταυτότητα δεν είναι ιδιοκτησία που μπορεί να την αποκτήσει ή να την απωλέσει κάποιος. Δεν είναι καν ένα αντικείμενο. Η ταυτότητα κάποιου ατόμου είναι το μοναδικό πράγμα που δεν μπορεί να κλαπεί. Το πραγματικό έγκλημα στη συγκεκριμένη περίπτωση είναι η απάτη. Πιο συγκεκριμένα, πρόκειται για πλαστοπροσωπία που οδηγεί στην απάτη. Η πλαστοπροσωπία αποτελεί ένα αρχαίο έγκλημα, αλλά η αύξηση των διαπιστευτηρίων που βασίζονται σε πληροφορίες τής προσδίδει μία σύγχρονη άποψη. Ένας εγκληματίας πλαστοπροσωπεί ένα θύμα στο Διαδίκτυο και κλέβει χρήματα από το λογαριασμό του. Πλαστοπροσωπεί ένα θύμα για να παραπλανήσει τους χρηματο-οικονομικούς οργανισμούς με σκοπό να χορηγήσουν πίστωση στον εγκληματία στο όνομα του θύματος. Πλαστοπροσωπεί ένα θύμα στο ταχυδρομείο και αλλάζει τη διεύθυνση του θύματος. Πλαστοπροσωπεί ένα θύμα με σκοπό να ξεγελάσει την αστυνομία και να συλληφθεί το λάθος άτομο. Ουσιαστικά δεν έχει κλαπεί η ταυτότητα κανενός, απλά ο εγκληματίας καταχράται τις πληροφορίες της ταυτότητας για να διαπράξει απάτη. Το έγκλημα περιλαμβάνει δύο τελείως ξεχωριστά ζητήματα. Το πρώτο είναι η ιδιωτικότητα των προσωπικών δεδομένων. Η ιδιωτικότητα είναι σημαντική για διάφορους λόγους, ένας από τους οποίους είναι η πλαστοπροσωπία και η απάτη. Καθώς όλο και περισσότερες πληροφορίες σχετικά με το άτομό μας συγκεντρώνονται, συσχετίζονται και πωλούνται, οι εγκληματίες μπορούν με μεγαλύτερη ευκολία να βάλουν χέρι στα δεδομένα που χρειάζονται για να διαπράξουν απάτη. Ακριβώς αυτό το γεγονός ήταν και στις ειδήσεις πρόσφατα: ChoicePoint, LexisNexis, Bank of America και ούτω καθεξής. Ωστόσο, η ιδιωτικότητα των δεδομένων περιλαμβάνει περισσότερα πράγματα από την απάτη. Μπορεί να είναι τα βιβλία που δανειζόμαστε από τη βιβλιοθήκη, οι ιστοχώροι που επισκεπτόμαστε ή το περιεχόμενο των γραπτών μηνυμάτων μας ∙ πολλοί από εμάς διατηρούμε προσωπικά δεδομένα σε υπολογιστές τρίτων που δεν θέλουμε να γνωστοποιήσουμε. Η δημοσίευση των τηλεφωνικών επαφών της Paris Hilton στο Διαδίκτυο αποτελεί ένα χαρακτηριστικό παράδειγμα μίας διασημότητας που έπεσε θύμα. Το δεύτερο ζήτημα είναι η ευκολία με την οποία. ένας εγκληματίας μπορεί να χρησιμοποιήσει τα προσωπικά δεδομένα για να διαπράξει απάτη. Δεν απαιτούνται ιδιαίτερα πολλές προσωπικές πληροφορίες για να κάνει ένα άτομο αίτηση για πιστωτική κάρτα στο όνομα άλλου προσώπου. Δεν υπάρχουν ιδιαίτερες απαιτήσεις για να πραγματοποιήσει κανείς παράνομες τραπεζικές συναλλαγές στο όνομα άλλου προσώπου. Περιέργως, είναι πολύ εύκολο να αποκτήσει κανείς δελτίο ταυτότητας στο όνομα άλλου προσώπου. Στον κόσμο μας, όπου η ταυτότητα επιβεβαιώνεται με απλό και απρόσεκτο τρόπο, ο εγκληματίας μπορεί με ευκολία να πλαστοπροσωπήσει το θύμα του. Οι προτεινόμενες λύσεις τείνουν να εστιάζουν στο πρώτο ζήτημα – καθιστώντας τα προσωπικά δεδομένα δυσκολότερα στην κλοπή – ενώ το πραγματικό πρόβλημα είναι το δεύτερο ζήτημα. Εάν πρόκειται να αντιμετωπίσουμε τους κινδύνους και τα αποτελέσματα της ηλεκτρονικής πλαστοπροσωπίας, θα πρέπει να εστιάσουμε στην αποτροπή και τον εντοπισμό των συναλλαγών. Οι παράνομες συναλλαγές δεν σχετίζονται με τους κατόχους νόμιμων λογαριασμών. Οι εγκληματίες παριστάνουν νόμιμους χρήστες σε χρηματο-οικονομικούς οργανισμούς. Το γεγονός αυτό σημαίνει ότι οποιαδήποτε λύση δεν μπορεί να περιλαμβάνει τους κατόχους των λογαριασμών. Οπότε απομένει μονάχα μία λογική απάντηση: οι χρηματο-οικονομικοί οργανισμοί θα πρέπει να είναι υπεύθυνοι για τις παράνομες συναλλαγές. Θα πρέπει να αναλαμβάνουν την ευθύνη όταν αποστέλλουν σε πιστωτικά γραφεία λανθασμένες πληροφορίες που βασίζονται σε παράνομες συναλλαγές. Δεν μπορούν να ισχυρίζονται ότι ο χρήστης θα πρέπει να διασφαλίζει τον κωδικό του ή το μηχάνημα του από ιούς. Δεν μπορούν να απαιτούν από το χρήστη να παρακολουθεί τους λογαριασμούς του για παράνομες δραστηριότητες ή τις πιστωτικές αναφορές του για παρανομίες που διεξάχθηκαν από πιστωτικές κάρτες. Οι απαιτήσεις αυτές δεν είναι λογικές για τους περισσότερους χρήστες. Η τράπεζα θα πρέπει να είναι υπεύθυνη, ανεξάρτητα με τις πράξεις του χρήστη. Εάν πιστεύετε ότι η λύση αυτή δεν θα είναι αποτελεσματική, κοιτάξτε τις πιστωτικές κάρτες. Οι εταιρείες πιστωτικών καρτών είναι υπεύθυνες για όλες τις συναλλαγές εκτός από τις παράνομες συναλλαγές των πρώτων $50. Δεν αγωνιούν για συναλλακτικές δραστηριότητες, αλλά ούτε και πνίγονται στην απάτη. Έχουν αναπτύξει και υλοποιούν μία σειρά από τεχνολογίες της ασφάλειας που είναι σχεδιασμένες για να εντοπίζουν και να αποτρέπουν τις παράνομες συναλλαγές. Έχουν προωθήσει το μεγαλύτερο ποσοστό του πραγματικού κόστους στους εμπόρους, ενώ δεν τις περιβάλλει ιδιαίτερη ασφάλεια που να πιστοποιεί το δικαιούχο της κάρτας. Πρόκειται για ένα πολύ σημαντικό μάθημα. Οι λύσεις για την κλοπή ταυτότητας εστιάζουν υπερβολικά πολύ στην πιστοποίηση του ατόμου. Είτε πρόκειται για πιστοποίηση δύο παραγόντων, δελτία ταυτότητας, βιομετρικά στοιχεία ή οτιδήποτε άλλο, κυκλοφορεί ευρέως ένας μύθος ότι η πιστοποίηση του ατόμου θα συντελέσει στην αποτροπή αυτών των εγκλημάτων. Ωστόσο, από τη στιγμή που θα κατανοήσουμε ότι το πρόβλημα είναι οι παράνομες συναλλαγές, τότε γρήγορα θα συνειδητοποιήσουμε ότι η πιστοποίηση του ατόμου δεν θα βελτιώσει την κατάσταση. Και πάλι, αναλογιστείτε τις πιστωτικές κάρτες. Οι ταμίες καταστημάτων σχεδόν ποτέ δεν επιβεβαιώνουν τις υπογραφές όταν οι άνθρωποι χρησιμοποιούν τις κάρτες τους. Ο κόσμος μπορεί να χρησιμοποιεί πιστωτικές κάρτες για να αγοράσει πράγματα μέσω ταχυδρομείου, τηλεφώνου ή Διαδικτύου, όπου κανείς δεν επιβεβαιώνει την υπογραφή ή τον πραγματικό δικαιούχος της κάρτας. Ακόμη χειρότερα, καμία εταιρεία πιστωτικών καρτών δεν καθορίζει απαιτήσεις ασφαλούς αποθήκευσης για τις πιστωτικές κάρτες. Δεν απαιτούν από τους δικαιούχους των καρτών να ασφαλίζουν τα πορτοφόλια τους με κάποιο ιδιαίτερο τρόπο. Οι εταιρείες πιστωτικών καρτών απλώς δεν νοιάζονται να επιβεβαιώσουν το δικαιούχο της κάρτας ή να θέσουν απαιτήσεις για τη μεταχείριση της κάρτας. Εστιάζουν το ενδιαφέρον τους στην επιβεβαίωση της συναλλαγής. Το ίδιο σκεπτικό θα πρέπει να εφαρμοστεί και σε άλλους τομείς όπου οι εγκληματίες χρησιμοποιούν την πλαστοπροσωπία για να διαπράξουν απάτη. Δεν ξέρω ποιες θα είναι οι τελικές λύσεις, αλλά γνωρίζω ότι από τη στιγμή που οι χρηματο-οικονομικοί οργανισμοί είναι υπεύθυνοι για τις απώλειες εξαιτίας αυτών των ειδών της απάτης, θα βρουν λύσεις. Μπορεί να εφαρμοστεί ένα ημερήσιο όριο ανάληψης, όπως υπάρχει στα μηχανήματα ανάληψης ATM. Μπορεί να καθυστερήσουν τις μεγάλες συναλλαγές για ένα ορισμένο χρονικό διάστημα ή να απαιτήσουν επανάκληση από την τράπεζα ή από την χρηματομεσιτική εταιρεία. Μπορεί να μην παρέχεται πλέον η δυνατότητα στον κόσμο να ανοίξει λογαριασμό πιστωτικής κάρτας απλά και μόνο συμπληρώνοντας ένα σωρό πληροφορίες σε μία αίτηση. Κατά πάσα πιθανότητα, η λύση θα αποτελέσει το συνδυασμό εκείνων των λύσεων που θα μειώνουν τις παράνομες συναλλαγές σε διαχειρίσιμο επίπεδο, αλλά αυτό θα το μάθουμε μόνο όταν οι χρηματο-οικονομικοί οργανισμοί αποκτήσουν το οικονομικό κίνητρο για να τις εφαρμόσουν. Προς το παρόν, τα οικονομικά κίνητρα των χρηματο-οικονομικών οργανισμών υποδεικνύουν ότι είναι τόσο πολύ πρόθυμοι να επιτρέψουν τις συναλλαγές – νέες πιστωτικές κάρτες, μεταφορές χρημάτων, οτιδήποτε – που δεν δίνουν αρκετή προσοχή στις παράνομες συναλλαγές. Έχουν προωθήσει το κόστος των απατών στους εμπόρους. Ωστόσο, εάν θεωρηθούν υπεύθυνοι για απώλειες και αποζημίωση απέναντι στους νόμιμους χρήστες, τότε θα δώσουν μεγαλύτερη προσοχή και θα μετριάσουν τους κινδύνους. Η ασφάλεια μπορεί να κάνει ένα σωρό πράγματα, από τη στιγμή που θα υπάρχουν τα οικονομικά κίνητρα για να εφαρμοστούν. Με το να εστιάζω στην παράνομη χρήση των προσωπικών δεδομένων, δεν σκοπεύω να υποβιβάσω τη ζημιά που προκαλείται από τα δεδομένα τρίτων προσώπων και τις παραβιάσεις της ιδιωτικότητας. Πιστεύω ότι μία νομοθεσία Προστασίας Δεδομένων, όπως της Ευρωπαϊκής Ένωσης θα μπορούσε να εξυπηρετήσει τις ΗΠΑ. Ωστόσο, δεν πιστεύω ότι ένας τέτοιος νόμος θα μείωνε σημαντικά τον κίνδυνο της παράνομης πλαστοπροσωπίας. Για να μετριαστεί ο κίνδυνος, θα πρέπει να εστιάσουμε την προσοχή μας στον εντοπισμό και την αποτροπή των παράνομων συναλλαγών. Θα πρέπει να υποχρεώσουμε το φορέα που είναι σε θέση να μετριάσει τον κίνδυνο, να είναι και υπεύθυνος για τον κίνδυνο αυτό. Αυτό σημαίνει ότι θα πρέπει να καταστήσουμε τους χρηματο-οικονομικούς οργανισμούς υπεύθυνους για τις παράνομες συναλλαγές. Το να πράξουμε οτιδήποτε λιγότερο δεν θα έχει αποτέλεσμα. Το παρόν δοκίμιο είχε δημοσιευθεί αρχικά στο CNet. <http://news.com.com/Mitigating+identity+theft/2010-1071_3-5669408.html> ------------------------------------------------------------------------ Ανατυπώσεις του Κρυπτογράμματος Αυτή είναι η όγδοη χρονιά έκδοσης του Κρυπτογράμματος. Παλαιότερα τεύχη καλύπτουν διάφορα θέματα σχετικά με την ασφάλεια και μπορείτε να τα βρείτε στη διεύθυνση: <http://www.schneier.com/crypto-gram.html>. Παρακάτω παραθέτουμε διάφορα άρθρα που συμπεριλάβαμε στο παρόν τεύχος από άλλες χρονιές. Εθνικές ταυτότητες: <http://www.schneier.com/crypto-gram-0404.html#1> Κλέβοντας τις Εκλογές: <http://www.schneier.com/crypto-gram-0404.html#4> Αυτοματοποιημένες επιθέσεις άρνησης παροχής υπηρεσιών (denial of service) χρησιμοποιώντας το Ταχυδρομείο των ΗΠΑ: <http://www.schneier.com/crypto-gram-0304.html#1> Η ακρίβεια της βάσης δεδομένων του Εθνικού Κέντρου Εγκληματικών Πληροφοριών (National Crime Information Center-NCIC): <http://www.schneier.com/crypto-gram-0304.html#7> Πώς να αντιλαμβάνεστε την ασφάλεια: <http://www.schneier.com/crypto-gram-0204.html#1> Αρκούν τα 1028 bits; <http://www.schneier.com/crypto-gram-0204.html#3> Νομική ευθύνη και ασφάλεια: <http://www.schneier.com/crypto-gram-0204.html#6> Τα φυσικά πλεονεκτήματα της άμυνας: Η Ιστορία του Στρατού διδάσκει την ασφάλεια δικτύων, Μέρος Α’: <http://www.schneier.com/crypto-gram-0104.html#1> UCITA: <http://www.schneier.com/crypto-gram-0004.html#ucita> Κρυπτογραφία: Η σπουδαιότητα του να μην διαφέρεις: <http://www.schneier.com/crypto-gram-9904.html#different> Απειλές κατά των έξυπνων καρτών: <http://www.schneier.com/crypto-gram-9904.html#smartcards> Επίθεση κατά πιστοποιητικών με ιούς: <http://www.schneier.com/crypto-gram-9904.html#certificates> ------------------------------------------------------------------------ Νέοι κίνδυνοι βιομετρικών στοιχείων Πρόκειται για το είδος της επίθεσης που πραγματευόμαστε από την έλευση των βιομετρικών στοιχείων. Στη Μαλαισία, εγκληματίες έκοψαν το δάχτυλο ενός άνδρα προκειμένου να ανοίξουν τη βιομετρική κλειδαριά της Μερσεντές του. Αυτό που μου εγείρει το ενδιαφέρον στην ιστορία είναι η σχέση του επιτιθέμενου και του αμυνόμενου. Ο αμυνόμενος εφαρμόζει ένα μέτρο ασφαλείας που προκαλεί τον επιτιθέμενο να αλλάξει τις τακτικές του. Μερικές φορές οι νέες τακτικές είναι περισσότερο επιβλαβείς, ενώ από την άλλη μεριά δεν είναι ξεκάθαρο εάν το εκάστοτε μέτρο ασφαλείας άξιζε τον κόπο. Έγραψα κάτι παρόμοιο στο βιβλίο ‘Beyond Fear’ (σελ.113): «Κάποιος μπορεί να σκεφτεί: ‘Ανησυχώ μήπως μου κλέψουν το αυτοκίνητο, οπότε θα αγοράσω μία πανάκριβη συσκευή ασφαλείας που να καθιστά αδύνατη την παράκαμψη του κλειδιού για να εκκινηθεί το αυτοκίνητο.’ Αυτή ακούγεται σαν μία λογική σκέψη, αλλά σε χώρες όπως η Ρωσία όπου τέτοιες συσκευές ασφαλείας είναι κοινός τόπος, οι κλοπές αυτοκινήτων έχουν αυξηθεί. Η κλοπή αυτοκινήτων θέτει τον οδηγό σε μεγαλύτερο κίνδυνο. Στη συγκεκριμένη περίπτωση το μέτρο της ασφάλειας έχει διαφοροποιήσει τον πιο αδύναμο κρίκο, από την κλειδαριά στον οδηγό. Αν και το σύνολο των κλοπών των αυτοκινήτων έχει μειωθεί, παράλληλα έχει μειωθεί και η ασφάλεια των οδηγών.» Βεβαίως και είναι δυνατό να σχεδιαστούν συσκευές ανάγνωσης δακτυλικών αποτυπωμάτων που να ελέγχουν για «ζωντανή ύπαρξη», όπως το σφυγμό, τη θερμοκρασία σώματος, κλπ, αλλά αυτά τα νέα μέτρα ασφαλείας θα έχουν ως αποτέλεσμα νέες εγκληματικές τακτικές και ο κύκλος αυτός θα συνεχιστεί. <http://news.bbc.co.uk/2/hi/asia-pacific/4396831.stm> ------------------------------------------------------------------------ Νέα Αποτυχίες σε αντιτρομοκρατικούς ανιχνευτές ραδιενέργειας: <http://www.nti.org/d_newswire/issues/print.asp?story_id=ABE17A0A-395C-4FA9-9B34-D02CA791679F> Τεχνικά χαρακτηριστικά για τα ηλεκτρονικά διαβατήρια των ΗΠΑ: <http://a257.g.akamaitech.net/7/257/2422/01jan20051800/edocket.access.gpo.gov/2005/05-3080.htm> Χάκερς καταλαμβάνουν κάμερες διαδικτύου (webcams): <http://www.theregister.co.uk/2005/02/28/webcam_trojan_case/> Περιστατικό κοινωνικής μηχανικής στην Εφορία των ΗΠΑ (IRS): <http://www.cnn.com/2005/TECH/03/17/irs.computer.security.ap/index.html> Ένα άρθρο που καλύπτει αποσπάσματα από την πλέον ανόητη μυστικότητα που έχει επιβάλλει η κυβέρνηση των ΗΠΑ για λόγους ασφαλείας (απαιτεί σύνδεση εγγεγραμμένου μέλους): <http://online.wsj.com/article/0,,SB111145546123985866,00.html> Το άρθρο εξηγεί ότι δεν επιτρέπεται στους πιλότους να πετάνε κοντά σε πυρηνικές ηλεκτροπαραγωγικές εγκαταστάσεις, ωστόσο απαγορεύεται να γνωρίζουν που βρίσκονται αυτές οι εγκαταστάσεις. Ιδού μία ιστορία για κάποιο άτομο που βρήκε την ακριβή τοποθεσία της πυρηνικής ηλεκτροπαραγωγικής εγκατάστασης στην περιοχή Oyster Creek της πολιτείας New Jersey, χρησιμοποιώντας μονάχα πληροφορίες διαθέσιμες στο κοινό. <http://synflood.at/blog/archives/2005:03:28/how-to-find-nuclear-power-plants> Ένα ωραίο κύριο άρθρο με θέμα τα προβλήματα της ασφάλειας σχετικά με τη μυστικότητα: <http://www.independent-media.tv/item.cfm?fmedia_id=10500&fcategory_desc=Top%20Stories%20Ignored%20By%20U.S.%20Media> Οι ψηφοφόροι υποχρεούνται να φέρουν ταυτότητα. Όσοι υποστηρίζουν τις ταυτότητες με φωτογραφία στα εκλογικά κέντρα ξεχνούν ότι δεν έχει όλος ο κόσμος τέτοιες ταυτότητες. Δεν ταξιδεύει όλος ο κόσμος με αεροπλάνο. Δεν έχει όλος ο κόσμος δίπλωμα οδήγησης. Εάν απαιτείται ταυτότητα με φωτογραφία για να ψηφίσει κανείς, τότε θα έπρεπε να είναι 1) δωρεάν και 2) διαθέσιμη παντού και στους πάντες. Διαφορετικά πρόκειται για φόρος εκλογών. <http://www.npr.org/templates/story/story.php?storyId=4558628> Μία μελέτη καταδεικνύει (για άλλη μία φορά) πόσο εύκολη είναι η συλλογή προσωπικών πληροφοριών που μπορούν να χρησιμοποιηθούν για κλοπή ταυτότητας. <http://news.bbc.co.uk/1/hi/technology/4378253.stm> Η ανωνυμία και το Διαδίκτυο: <http://slate.com/id/2115120/> <http://wendy.seltzer.org/blog/archives/2005/03/19/nyt_catches_the_anonymous_wifi_is_evil_bug.html> Ένα θαυμάσιο άρθρο που αναφέρει ότι η κλοπή ταυτότητας είναι αναπόφευκτη: <http://www.theregister.co.uk/2005/03/23/id_theft_cannot_be_escaped/> Γιατί οι κάμερες παρακολούθησης δεν μειώνουν την εγκληματικότητα: <http://gritsforbreakfast.blogspot.com/2005/03/why-surveillance-cameras-dont-reduce.html> Η εταιρεία Sybase απειλεί με ποινική δίωξη τους ερευνητές που ανακάλυψαν αδυναμίες στα προϊόντα τους: <http://www.computerworld.com/securitytopics/security/holes/story/0,10801,100637,00.html> Η ανάλυση του EPIC (Ηλεκτρονικό Κέντρο Ενημέρωσης περί της Ιδιωτικότητας) για τη νέα ταυτότητα πολλαπλής χρήσης του DHS: <http://www.epic.org/privacy/surveillance/spotlight/0405.html> Επισκόπηση νόμου της τιμής περιορισμού των πληροφοριών περί αδυναμιών: <http://www.digital-law.net/IJCLP/Cy_2004/ijclp_webdoc_10_Cy_2004.htm> Εκ των έσω επίθεση κατά τράπεζας με χρήση συσκευής καταγραφής πληκτρολογίου: <http://news.bbc.co.uk/1/hi/uk/4356661.stm> Ακόμη μία επίθεση εκ των έσω από εργαζόμενους σε τηλεφωνικό κέντρο στην Ινδία: <http://timesofindia.indiatimes.com/articleshow/msid-1070986,curpg-1.cms> Τα Sandia National Laboratories <http://www.sandia.gov/about/index.html> εξέδωσαν μία συνετή αλλά και ανατριχιαστική αναφορά με θέμα την ασφάλεια κατά της τρομοκρατίας. Παραθέτω τα σχόλιά μου στο ακόλουθο σύνδεσμο: <http://www.schneier.com/blog/archives/2005/04/sandia_on_terro.html> Το London School of Economics δημοσίευσε πρόσφατα μία αναφορά με θέμα τις προτάσεις της κυβέρνησης του Ηνωμένου Βασιλείου για τις εθνικές ταυτότητες. Αξίζει να το διαβάσετε. <http://www.lse.ac.uk/collections/pressAndInformationOffice/PDF/IDreport.pdf> Τσιπ RFID ενσωματωμένα σε αυτοκίνητα της Πολιτείας του Τέξας: <http://gritsforbreakfast.blogspot.com/2005/04/tag-texas-cars-with-rfids-i-couldnt.html> Τα σχόλια για την ασφάλεια των ηλεκτρονικών διαβατηρίων αποτελούν ένα εξαίρετο αλφαβητάρι για τους κινδύνους της τεχνολογίας. Πρέπει να διαβάσετε οπωσδήποτε την Προσθήκη 1: «Ζητήματα Ασφαλείας και Ιδιωτικής Ζωής στα Ηλεκτρονικά Διαβατήρια», μία πιο τεχνική ανακοίνωση από τους Ari Juels, David Molnar και David Wagner. <http://www.epic.org/privacy/rfid/rfid_passports-0405.pdf> Ένα θαυμάσιο άρθρο του Economist με θέμα την ασφάλεια ως είδος συναλλαγής: <http://economist.com/opinion/displayStory.cfm?story_id=3789466&CFID=50676895&CFTOKEN=39fd1de-3dfe5744-5457-4f96-aed8-20d51cefcfa2> Απόσπασμα: <http://www.schneier.com/blog/archives/2005/04/security_as_a_t.html> Όλοι γνωρίζουμε ότι μπορεί κανείς να υποκλέψει επικοινωνίες Bluetooth ακόμη και από ένα μίλι μακριά. Το νέο της υπόθεσης είναι οι απαραίτητες οδηγίες βήμα προς βήμα για την κατασκευή ιδιωτικής συσκευής υποκλοπής που θα σας κοστίσει λιγότερο από $400. Μπορείτε να είστε ο πρώτος στη γειτονιά σας που θα κατασκευάσει μία τέτοια συσκευή. <http://www.tomsnetworking.com/Sections-article106.php> Υπάρχει κανείς που να μπορεί να παρουσιάσει ένα λογικό επιχείρημα ότι η αναγνώριση με ραδιοσυχνότητες (RFID) δεν θα είναι το ίδιο εύκολη να υποκλαπεί; Ένα δικαστήριο αποφάσισε ότι η προστασία αρχείου με κωδικό πρόσβασης δεν είναι αρκετή για να αποτελέσει εμπορικό μυστικό. <http://www.internetcases.com/2005/04/password-protection-not-enough-to.html> Ευρείας κλίμακας σάρωμα πινακίδων από ελικόπτερο: <http://www.thenewspaper.com/news/03/320.asp> ------------------------------------------------------------------------ Μία φοιτήτρια παραβιάζει το σύστημα για να αλλάξει τη βαθμολογία Το Πανεπιστήμιο της Καλιφόρνια στη Σάντα Μπάρμπαρα διαθέτει ένα επί παραγγελία πρόγραμμα, το eGrades, στο οποίο οι καθηγητές μπορούν να καταθέτουν και να αλλάζουν τις βαθμολογίες τους. Βέβαια, προστατεύεται από κωδικό πρόσβασης. Ωστόσο, υπάρχει και ένα εφεδρικό σύστημα έτσι ώστε οι καθηγητές που ξεχνούν τον κωδικό τους να μπορούν να τον επαναφέρουν χρησιμοποιώντας τον αριθμό Κοινωνικού Μητρώου και την ημερομηνία γέννησής τους. Μία φοιτήτρια εργαζόταν σε μία ασφαλιστική εταιρεία και κατάφερε να αποκτήσει τους αριθμούς Κοινωνικού Μητρώου και τις ημερομηνίες γέννησης δύο καθηγητών. Χρησιμοποίησε τις πληροφορίες αυτές για να επαναφέρει τους κωδικούς τους και να αλλάξει τη δική της βαθμολογία καθώς και μερικών άλλων συμφοιτητών της. Σύμφωνα με την αναφορά στον Τύπο: «Η αστυνομία, οι υπεύθυνοι του Πανεπιστημίου και οι ειδικοί της Πληροφορικής της Πανεπιστημιούπολης, είπαν ότι η υποτιθέμενη παράνομη πρόσβαση της Ραμίρεζ στο σύστημα βαθμολογίας δεν ήταν αποτέλεσμα ανεπάρκειας ή ελαττώματος του προγράμματος.» Κατά τη γνώμη μου φαίνεται σαν ελάττωμα του προγράμματος. Το έχω αναφέρει επανειλημμένα: ένας κύριος μηχανισμός ασφαλείας να αποτυγχάνει λόγω του δευτερεύοντος λιγότερο ασφαλούς μηχανισμού. Η ιστορία: <http://www.dailynexus.com/news/2005/9237.html> Το προηγούμενο άρθρο που έγραψα στο εν λόγω θέμα: <http://www.schneier.com/blog/archives/2005/02/the_curse_of_th.html> ------------------------------------------------------------------------ Σημειώσεις περί ασφάλειας από όλο τον κόσμο: Καμουφλάζ σε χταπόδια Τον περασμένο μήνα, ερευνητές δημοσίευσαν τη βιντεοσκόπηση ενός χταποδιού, το οποίο είχε για καμουφλάζ κοράλλια και κοχύλια και κινούταν κατά μήκος του βυθού του ωκεανού. Μου αρέσουν τα μέτρα ασφαλείας που παρουσιάζονται στον κόσμο της φύσης. Ως άνθρωποι, προσπαθούμε να εφεύρουμε το πιο αποτελεσματικό μέτρο ασφαλείας για μία δεδομένη επίθεση. Η εξέλιξη λειτουργεί διαφορετικά. Ένα είδος δοκιμάζει στην τύχη διάφορα μέτρα ασφαλείας και αρκείται στο πρώτο που θα είναι σχετικά αποτελεσματικό. Το αποτέλεσμα είναι ότι ο κόσμος της φύσης καταδεικνύει μία θαυμάσια ποικιλία μέτρων ασφαλείας. <http://www.nature.com/news/2005/050321/full/050321-14.html> ------------------------------------------------------------------------ Παραβίαση της εκλογής του Πάπα Καθώς το Κολέγιο των Καρδιναλίων ετοιμάζεται να εκλέξει το νέο Πάπα, άνθρωποι σαν κι εμένα αναρωτιούνται για τη διαδικασία της εκλογής. Πώς λειτουργεί; Πόσο δύσκολο είναι να παραβιαστεί η ψηφοφορία; Φυσικά και δεν υποστηρίζω την απάτη στην ψηφοφορία κατά την παπική εκλογή. Ούτε και υπονοώ ότι ένας καρδινάλιος μπορεί να ευθύνεται για απάτη. Ωστόσο, τα άτομα που εργάζονται στον τομέα της ασφάλειας δεν γίνεται να μην σκεφτούν τρόπους παραβίασης ενός συστήματος όταν το έχουν μπροστά τους ∙ είναι οι κίνδυνοι του επαγγέλματος. Οι κανονισμοί για την εκλογή του Πάπα έχουν τις ρίζες τους στην παράδοση και η τελευταία φορά που κωδικοποιήθηκαν ήταν στις 22 Φεβρουαρίου 1996: «Universi Dominici Gregis επί της χηρεύουσας θέσης της Αποστολικής Έδρας και της Εκλογής του Ρωμαίου Ποντίφικα». Το κείμενο είναι πολύ καλογραμμένο και γεμάτο λεπτομέρειες. Η εκλογή λαμβάνει χώρα στην Καπέλα Σιστίνα υπό την καθοδήγηση της Εκκλησίας Chamberlain. Η ψήφος αναγράφεται σε χαρτί και η καταμέτρηση γίνεται με το χέρι. Οι ψήφοι είναι μυστικές, ωστόσο τα υπόλοιπα γίνονται σε κοινή θέα. Η πρώτη είναι η «προ-εκλογική» φάση. Σε κάθε καρδινάλιο δίνονται «τουλάχιστον δύο ή τρία» ψηφοδέλτια (θα ψηφίσουν 115 καρδινάλιοι) έτσι ώστε ο καθένας να έχει επιπλέον ψηφοδέλτια σε περίπτωση που κάνει λάθος. Στη συνέχεια, επιλέγονται εννέα υπεύθυνοι για την εκλογή: τρεις «Επίτροποι» που καταμετρούν τις ψήφους, τρεις «Επιθεωρητές» που επιβεβαιώνουν το αποτέλεσμα των «Επιτρόπων» και τρεις "Infirmarii" που συλλέγουν τα ψηφοδέλτια από τους καρδινάλιους που είναι πολύ ασθενείς για να παραβρίσκονται στην αίθουσα. (Οι υπεύθυνοι αυτοί επιλέγονται στην τύχη για κάθε ψηφοφορία.) Κάθε καρδινάλιος γράφει την προτίμησή του για τη θέση του Πάπα σε ένα παραλληλόγραμμο χαρτί «με γραφικό χαρακτήρα όσο το δυνατόν λιγότερο αναγνωρίσιμο». Στη συνέχεια, διπλώνει το χαρτί κατά μήκος και το κρατάει ψηλά για να το δουν όλοι. Όταν τελειώσουν όλοι με τη ψηφοφορία, ξεκινάει η φάση της «εκλογής». Οι καρδινάλιοι προωθούνται ένας-ένας προς την Αγία Τράπεζα. Στην Αγία Τράπεζα υπάρχει ένα μεγάλο δισκοπότηρο με ένα δισκάριο (ένας ρηχός μεταλλικός δίσκος που χρησιμοποιείται για τη θεία Κοινωνία κατά τη θεία Λειτουργία) από πάνω. Κάθε καρδινάλιος τοποθετεί το διπλωμένο ψηφοδέλτιό του πάνω στο δισκάριο. Στη συνέχεια σηκώνει το δισκάριο και ρίχνει το ψηφοδέλτιό του μέσα στο δισκοπότηρο. Εάν κάποιος καρδινάλιος δεν μπορεί να προχωρήσει προς την Αγία Τράπεζα, τότε τον εξυπηρετεί ένας Επίτροπος μπροστά σε όλους τους υπόλοιπους. Εάν κάποιος καρδινάλιος είναι πολύ ασθενής για να παραβρίσκεται μέσα στην Καπέλα Σιστίνα, τότε οι Επίτροποι δίνουν στους "Infirmarii" ένα κλειδωμένο κουτί με μία εγκοπή και οι τρεις "Infirmarii" μαζί συλλέγουν τα ψηφοδέλτια. (Εάν κάποιος καρδινάλιος είναι πολύ ασθενής για να γράψει, ζητάει από κάποιον "Infirmarii" να τον εξυπηρετήσει). Το κουτί ανοίγεται και τα ψηφοδέλτια τοποθετούνται πάνω στο δισκάριο και μέσα στο δισκοπότηρο, ένα-ένα με τη σειρά. Όταν όλες οι ψήφοι είναι μέσα στο δισκοπότηρο, ο πρώτος Επίτροπος το ανακινεί μερικές φορές για να τις ανακατέψει. Στη συνέχεια, ο τρίτος Επίτροπος μεταφέρει τα ψηφοδέλτια, ένα-ένα, από το ένα δισκοπότηρο στο άλλο και παράλληλα τα μετράει. Εάν το σύνολο των ψηφοδελτίων δεν είναι σωστό, τότε τα ψηφοδέλτια καίγονται και επαναλαμβάνεται η ψηφοφορία. Για την καταμέτρηση των ψήφων και οι τρεις Επίτροποι ανοίγουν το κάθε ψηφοδέλτιο και το διαβάζουν με τη σειρά και το τρίτο μέλος το ανακοινώνει. Κάθε Επίτροπος καταγράφει τη ψήφο σε ένα φύλλο καταμέτρησης. Όλη αυτή η διαδικασία διεξάγεται μπροστά σε όλους τους καρδινάλιους. Το σύνολο των ψήφων για κάθε πρόσωπο καταγράφεται σε ξεχωριστό φύλλο. Έπειτα, ακολουθεί, η φάση της «μετά-εκλογής». Οι Επίτροποι καταμετρούν τις ψήφους και καθορίζουν τον νικητή. Στη συνέχεια, οι Επιθεωρητές επιβεβαιώνουν την όλη διαδικασία: τις ψήφους, τις καταμετρήσεις, τα πάντα. Και μετά τα ψηφοδέλτια καίγονται. (Έτσι προκύπτει κι ο καπνός ∙ άσπρος, εάν εκλέχθηκε ο νέος Πάπας και μαύρος, εάν δεν υπήρξε εκλογή.) Πόσο δύσκολο είναι να παραβιαστεί αυτή η διαδικασία; Η πρώτη παρατήρηση είναι ότι το σύστημα είναι εξολοκλήρου χειροκίνητο. Το γεγονός αυτό το καθιστά απρόσβλητο από κάθε είδους τεχνολογικές επιθέσεις που δημιουργούν κινδύνους στα σύγχρονα συστήματα ψηφοφορίας. Η δεύτερη παρατήρηση είναι ότι οι μικρές ομάδες ψηφοφόρων – και οι οποίοι γνωρίζονται μεταξύ τους – δεν επιτρέπουν σε κανέναν εξωτερικό παράγοντα να επηρεάσει τη ψηφοφορία. Η Καπέλα Σιστίνα αδειάζει και κλειδώνεται πριν τη ψηφοφορία. Κανείς δεν μπορεί να ντυθεί ως καρδινάλιος και να μπει κρυφά στην Καπέλα Σιστίνα. Στην πραγματικότητα, δεν υπάρχει πιο τέλεια διαδικασία επιβεβαίωσης των ψηφοφόρων. Η λαθρακρόαση είναι δυνατή, αν και οι κανονισμοί δηλώνουν ρητά ότι η Καπέλα Σιστίνα θα πρέπει να ελεγχθεί για συσκευές καταγραφής και αναμετάδοσης «με τη βοήθεια αξιόπιστων ατόμων με αποδεδειγμένες τεχνικές ικανότητες». Διάβασα ότι το Βατικανό ανησυχεί για μικρόφωνα λέιζερ επειδή υπάρχουν παράθυρα κοντά στη στέγη της Καπέλα Σιστίνα. Οπότε το μόνο που μας απομένει είναι οι επιθέσεις εκ των έσω. Μπορεί ένας καρδινάλιος να επηρεάσει τη ψηφοφορία; Βέβαια, οι Επίτροποι θα μπορούσαν να τροποποιήσουν τις ψήφους, αλλά είναι δύσκολο. Η καταμέτρηση διεξάγεται σε κοινή θέα και υπάρχουν διάφορα άτομα που ελέγχουν το κάθε βήμα. Ο πρώτος Επίτροπος θα μπορούσε να αλλάξει τα ψηφοδέλτια προτού καταγράψει τις ψήφους, εάν είχε τη δεξιοτεχνία ή ο τρίτος Επίτροπος θα μπορούσε να αλλάξει τις ψήφους κατά τη διάρκεια της καταμέτρησης. Ένας καρδινάλιος δεν έχει τη δυνατότητα να παραχώσει ψηφοδέλτια όταν ψηφίζει. Η σύνθετη τελετουργία με το δισκοπότηρο και το δισκάριο διασφαλίζει ότι κάθε καρδινάλιος ψηφίζει μόνο μία φορά – το ψηφοδέλτιό του είναι ορατό – και επίσης, το άλλο χέρι του είναι μακριά από το δισκοπότηρο κρατώντας τα άλλα ψηφοδέλτια. Η δημιουργία μεγάλων ψηφοδελτίων, καθώς και ο πιο προσεκτικός έλεγχος των λευκών ψηφοδελτίων και η διανομή μονάχα ενός ψηφοδελτίου σε κάθε καρδινάλιο θα καθιστούσαν τις επιθέσεις δυσκολότερες. Πιθανότατα, οι καρδινάλιοι αλλάζουν γνώμη αρκετά συχνά κατά τη διάρκεια της ψηφοφορίας, οπότε χρειάζεται η διανομή επιπλέον λευκών ψηφοδελτίων. Τα ψηφοδέλτια των προηγούμενων ψηφοφοριών καίγονται, με αποτέλεσμα να είναι δύσκολο να παραχώσει κανείς ένα από αυτά στη κάλπη. Ωστόσο, υπάρχει ένα μειονέκτημα: «Εάν η δεύτερη ψηφοφορία διεξαχθεί αμέσως μετά την πρώτη, τότε τα ψηφοδέλτια της πρώτης θα καούν στο τέλος μαζί τα ψηφοδέλτια της δεύτερης». Υποθέτω ότι αυτό συμβαίνει για να δημιουργηθεί μία στήλη καπνού και για τις δύο ψηφοφορίες, αλλά θα ήταν πιο ασφαλές να καίγονται τα ψηφοδέλτια προτού ξεκινήσει ο επόμενος γύρος ψηφοφορίας. (Αν και τρυπάνε τη στοίβα των ψηφοδελτίων με βελόνα και κλωστή και μετά τα δένουν μαζί, πράγμα που δηλώνει ότι 1) έχουν ήδη χρησιμοποιηθεί και 2) δεν μπορούν εύκολα να επαναχρησιμοποιηθούν.) Τέλος, οι καρδινάλιοι είναι με επίσημο ένδυμα κατά τη ψηφοφορία, το οποίο έχει διαφανή μανίκια με δαντέλα κάτω από μία κοντή κόκκινη κάπα. Το ένδυμα αυτό δεν διευκολύνει τα ταχυδακτυλουργικά κόλπα. Είναι πιθανό ένας από τους Επιτρόπους να καταγράψει λάθος τις ψήφους, αλλά από τη στιγμή που είναι τρεις το λάθος εντοπίζεται γρήγορα. Υποθέτω ότι θα διεξάγεται νέα καταμέτρηση για να διαπιστωθεί το σωστό αποτέλεσμα. Δύο ή τρεις Επίτροποι θα μπορούσαν να συμπράξουν για να προκαλέσουν μεγαλύτερη ζημιά, αλλά από τη στιγμή που επιλέγονται τυχαία, οι πιθανότητες να επιλεγεί μία κλίκα είναι πολύ χαμηλές. Επιπλέον, οι Επιθεωρητές ελέγχουν τα πάντα. Αυτό που έχει περισσότερο ενδιαφέρον είναι να προσπαθήσει κανείς να επιτεθεί στο σύστημα επιλογής των Επιτρόπων που δεν είναι προσδιορίζεται με σαφήνεια στο κείμενο. Η επιρροή της επιλογής των Επιτρόπων και των Επιθεωρητών φαίνεται πως θα μπορούσε να αποτελέσει το πρώτο απαραίτητο βήμα προς την επιρροή της εκλογής. Τα ψηφοδέλτια που περιλαμβάνουν περισσότερα από ένα ονόματα είναι άκυρα ∙ το ίδιο υποθέτω ότι ισχύει και για τα ψηφοδέλτια στα οποία δεν αναγράφεται κανένα όνομα. Είναι πιο πιθανό να υπάρχουν δυσανάγνωστα ή αμφιλεγόμενα ψηφοδέλτια, τα οποία και υποθέτω ότι απορρίπτονται. Οι κανονισμοί περιλαμβάνουν μία διάταξη περί ρίψης πολλών ψηφοδελτίων από τον ίδιο καρδινάλιο: «Κατά τη διάρκεια αποκάλυψης των ψηφοδελτίων, εάν οι Επίτροποι ανακαλύψουν ότι δύο ψηφοδέλτια είναι διπλωμένα με τέτοιο τρόπο που φαίνεται ότι είναι συμπληρωμένα από τον ίδιο ψηφοφόρο, στην περίπτωση που τα ψηφοδέλτια φέρουν το ίδιο όνομα, μετρούν ως μία ψήφος ∙ εάν φέρουν δύο διαφορετικά ονόματα, τότε ακυρώνονται και οι δύο ψήφοι. Ωστόσο, σε καμία περίπτωση δεν ακυρώνεται η ψηφοφορία.» Το γεγονός αυτό με εκπλήσσει, αν και υποθέτω ότι έχει συμβεί κατά λάθος. Εάν υπάρχει κάποια αδυναμία, αυτή είναι η καταμέτρηση των ψήφων. Δεν υπάρχει λόγος να γίνει καταμέτρηση από πριν, ενώ δίνει την ευκαιρία στον Επίτροπο που εκτελεί τη μεταφορά να αλλάξει τα έγκυρα ψηφοδέλτια με άλλα που είχε χώσει προηγουμένως στο μανίκι του. Μου αρέσει η ιδέα των τυχαίων ψηφοδελτίων, ενώ αν τοποθετούνταν τα ψηφοδέλτια σε ένα σιδερένιο κλουβί και το γυρνούσαν γύρω-γύρω θα πετύχαιναν το ίδιο αποτέλεσμα με μεγαλύτερη ασφάλεια, αν και με λιγότερη ευλάβεια. Εάν ήμουν σε θέση να βελτιώσω τη διαδικασία, θα πρόσθετα κάποιου είδους μεταχείρισης με λευκά γάντια έτσι ώστε να αποτρέψω κάποιον Επίτροπο από το να κρύψει μία μύτη μολυβιού κάτω από τα νύχια του. Παρόλο που η απαίτηση να γραφεί ολογράφως το όνομα του υποψηφίου προσδίνει μεγαλύτερη αντίσταση ενάντια σε μία τέτοια επίθεση. Η πρόσφατη αλλαγή στη διαδικασία που επιτρέπει στους καρδινάλιους να πηγαινοέρχονται από την Καπέλα Σιστίνα στα δωμάτιά τους – αντί να είναι κλειδωμένοι συνέχεια μέσα στην Καπέλα Σιστίνα, όπως γινόταν παλαιότερα – καθιστά τη διαδικασία κάπως λιγότερο ασφαλή. Ωστόσο, είμαι σίγουρος ότι έτσι είναι πιο άνετη. Τέλος, υπάρχει το εξής ενδεχόμενο: ένας από τους Infirmarii να κάνει ό,τι θέλει όταν μεταφέρει το ψηφοδέλτιο ενός ασθενούς καρδινάλιου, αλλά δεν υπάρχει τρόπος να αποτραπεί κάτι τέτοιο. Εάν ο καρδινάλιος ανησυχεί, μπορεί να ζητήσει και από τους τρεις Infirmarii να είναι μάρτυρες στη ψηφοφορία του. Επιπλέον, υπάρχουν τεράστια κοινωνικά – για την ακρίβεια, θρησκευτικά – αντικίνητρα σχετικά με την παραβίαση της εκλογής. Καθώς ρίχνουν το ψηφοδέλτιο τους προσφωνούν έναν όρκο ∙ μία επιπλέον αποθάρρυνση. Οι Επίτροποι παρακινούνται ρητά να μην σχηματίσουν οποιαδήποτε κλίκα ή να μην σχεδιάσουν να επηρεάσουν την εκλογή υπό την απειλή του αφορισμού: «Οι καρδινάλιοι ψηφοφόροι θα απέχουν από κάθε μορφής συνθήκη, συμφωνία ή άλλου είδους δέσμευσης που να τους υποχρεώνει να δώσουν ή να αρνηθούν τη ψήφο τους σε ένα άτομο ή άτομα.» Είμαι σίγουρος ότι υπάρχουν διαπραγματεύσεις και συμφωνίες και επηρεασμοί – σε τελική ανάλυση και οι καρδινάλιοι είναι θνητοί και τέτοιες περιπτώσεις αποτελούν μέρος ανθρώπινων συμφωνιών. Τι μπορούμε να διδαχθούμε από το συγκεκριμένο θέμα; Πρώτον, τα ανοιχτά συστήματα που λειτουργούν εντός μιας ομάδας γνωστών ατόμων καθιστούν δυσκολότερη την απάτη. Όλοι παρατηρούν κάθε βήμα της διαδικασίας της εκλογής και όλοι γνωρίζονται μεταξύ τους, με αποτέλεσμα να μην μπορεί κανείς εύκολα να ξεφύγει. Δεύτερον, οι μικρές και απλές εκλογές είναι πιο εύκολο να διασφαλιστούν. Η διαδικασία αυτή είναι αποτελεσματική για την εκλογή του Πάπα ή του προέδρου μιας λέσχης, αλλά δεν μπορεί να διευκολύνει τις εκλογές μεγάλης κλίμακας. Ο μόνος τρόπος που λειτουργούν τα χειροκίνητα συστήματα είναι μέσω διάταξης πυραμίδας, όπου οι μικρές ομάδες αναφέρουν τα αποτελέσματα, που έχουν λάβει χειροκίνητα, σε πιο υψηλόβαθμες κεντρικές αρχές της πυραμίδας. Ένα τρίτο και τελευταίο μάθημα: όταν η διαδικασία της εκλογής αναπτύσσεται κατά τους αιώνες, το αποτέλεσμα καταλήγει θετικό. Οι κανονισμοί για την εκλογή του Πάπα: <http://www.vatican.va/holy_father/john_paul_ii/apost_constitutions/documents/hf_jp-ii_apc_22021996_universi-dominici-gregis_en.html> Στη σελίδα αυτή υπάρχει μία φωτογραφία του επίσημου ενδύματος: <http://dappledphotos.blogspot.com/2005/01/biretta-sightings.html> ------------------------------------------------------------------------ Στο μάτι του κυκλώνα: ExeShield Ω, ναι, υπάρχουν εταιρείες που πιστεύουν ότι το να διατηρούν τους κρυπτογραφικούς αλγόριθμους κρυφούς θα τους καταστήσει περισσότερο ασφαλείς. «Η εταιρεία ExeShield χρησιμοποιεί τις τελευταίες εξελίξεις στην προστασία λογισμικού και στην τεχνολογία της κρυπτογραφίας με σκοπό να προσφέρει μεγαλύτερη ασφάλεια στις εφαρμογές σας. Βέβαια, για τη δική σας και τη δική μας ασφάλεια, δεν θα αποκαλύψουμε το σύστημα κρυπτογράφησης σε κανέναν.» Το δοκίμιο που έγραψα με θέμα γιατί η μυστικότητα στους κρυπτογραφικούς αλγόριθμους βλάπτει την ασφάλεια: <http://www.schneier.com/crypto-gram-0205.html#1> ------------------------------------------------------------------------ Το πρόγραμμα Secure Flight αντιμετωπίζει προβλήματα Αναφορά υπ’ αριθμό 1: υπάρχει μία αναφορά από τον Γενικό Επιθεωρητή του Υπουργείου Εσωτερικής Ασφάλειας (DHS) ότι η Διοίκηση της Ασφάλειας Μεταφορών (TSA) είπε ψέματα σχετικά με το ρόλο της στην απόκτηση προσωπικών πληροφοριών περί των 12 εκατομμυρίων επιβατών για να διεξάγει δοκιμές στο πρόγραμμα Secure Flight (Ασφαλής Πτήση). Στην αναφορά δεν δηλώνεται ρητά ότι η TSA είπε ψέματα, αλλά η TSA όντως είπε ψέματα. Αξίζει να διαβάσετε τις λεπτομέρειες. Όταν τις διαβάσετε, έχετε υπόψη σας ότι η αναφορά έχει συνταχθεί από τον ίδιο τον Γενικό Επιθεωρητή του DHS. Υποθέτω ότι ένας πιο ανεξάρτητος επιθεωρητής θα ήταν περισσότερο αυστηρός. Όχι πως η αναφορά δεν είναι αυστηρή, μην με παρεξηγήσετε. Παρακάτω ακολουθούν μερικά από τα πιο εντυπωσιακά σημεία της ιστορίας από το ειδησεογραφικό δίκτυο Associated Press: «Η αναφορά παραθέτει διάφορες περιστάσεις όπου αξιωματικοί της TSA έκαναν ανακριβείς δηλώσεις σχετικά με προσωπικά δεδομένα επιβατών: Το Σεπτέμβριο του 2003, το προσωπικό της υπηρεσίας Freedom of Information Act (FOIA, Νομοθεσία περί Ελευθερίας των Πληροφοριών) έλαβε εκατοντάδες αιτήσεις από τους επιβάτες των αερογραμμών Jet Blue που ρωτούσαν εάν η TSA είχε τα αρχεία τους. Μετά από μία πρόχειρη έρευνα, το προσωπικό της FOIA δημοσίευσε μία ανακοίνωση στον ιστοχώρο της TSA δηλώνοντας ότι δεν διέθετε πληροφορίες για τους επιβάτες των αερογραμμών Jet Blue. Αν και το προσωπικό της FOIA βρήκε αρχεία των επιβατών των αερογραμμών Jet Blue στην κατοχή της TSA τον Μάιο, η ανακοίνωση παρέμεινε στον ιστοχώρο περισσότερο από ένα χρόνο. Το Νοέμβριο του 2003, ο αρχηγός της TSA James Loy δήλωσε εσφαλμένα στην Επιτροπή Κυβερνητικών Υποθέσεων (Governmental Affairs Committee) ότι ορισμένα στοιχεία των επιβατών δεν χρησιμοποιούνταν για τις δοκιμές του συστήματος ελέγχου των επιβατών. Το Σεπτέμβριο του 2003, ένας δημοσιογράφος περιοδικού τεχνολογίας ρώτησε έναν εκπρόσωπο Τύπου της TSA εάν χρησιμοποιούσαν πραγματικά δεδομένα για να δοκιμάσουν το σύστημα ελέγχου επιβατών. Ο εκπρόσωπος Τύπου είπε ότι χρησιμοποιήθηκαν μόνο ψεύτικες πληροφορίες ∙ οι απαντήσεις «δεν ήταν ακριβείς», ανακοίνωσε η αναφορά.» Υπάρχει και συνέχεια. Η αναφορά αποκαλύπτει ότι η TSA έδωσε εντολή στην εταιρεία Delta Air Lines να παραδώσει προσωπικά δεδομένα των επιβατών το Φεβρουάριο του 2002 με σκοπό να βοηθήσει τη Μυστική Υπηρεσία να καθορίσει εάν οι τρομοκράτες ή οι συνεργάτες τους ταξίδευαν κοντά στην περιοχή της Ολυμπιάδας στη Salt Lake City. Επιπλέον, αποκαλύπτει ότι η TSA χρησιμοποιούσε προσωπικά δεδομένα επιβατών από τις αερογραμμές JetBlue την άνοιξη του 2003 για να καθορίσει τον τρόπο με τον οποίο θα αλλάξει τον αριθμό των ατόμων που θα επιλέγονταν για εκτενέστερο έλεγχο από το υπάρχον σύστημα. Η αναφορά δηλώνει ότι ένας από τους αναδόχους της TSA που εργαζόταν στο σύστημα ελέγχου επιβατών, η εταιρεία Lockheed Martin, χρησιμοποίησε ένα δείγμα δεδομένων από την εταιρεία ChoicePoint. Επίσης, αναφέρει λεπτομερώς τον τρόπο με τον οποίο εξωτερικοί ανάδοχοι χρησιμοποιούσαν τα δεδομένα για δικούς τους σκοπούς. Συγκεκριμένα, «η υπηρεσία αμέλησε να ρωτήσει εάν τα προσωπικά δεδομένα των επιβατών που χρησιμοποιούνταν από τους πωλητές είχαν επιστραφεί ή καταστραφεί». Επιπλέον, ότι «η TSA δεν έδειξε επιμονή στην εφαρμογή πολιτικής προστασίας της ιδιωτικής ζωής καθ’ όλη τη συμμετοχή της στις μεταφορές των προσωπικών δεδομένων των επιβατών». Πρόκειται για σοβαρά ζητήματα. Αποδεικνύεται ότι η TSA είπε ψέματα στο κοινό σχετικά με τη χρήση των προσωπικών δεδομένων ξανά και ξανά και ξανά. Αναφορά υπ’ αριθμό 2: Το Government Accountability Office (GAO, Κυβερνητικό Γραφείο Ευθυνών) εξέδωσε τη δική του αναφορά σχετικά με το πρόγραμμα Secure Flight (Ασφαλής Πτήση). Πέρυσι, το Κογκρέσο ψήφισε ένα νόμο που ανέφερε ότι η TSA θα υλοποιούσε το πρόγραμμα Secure Flight μόνο όταν θα ικανοποιούσε δέκα προϋποθέσεις: πολιτικές προστασίας της ιδιωτικής ζωής, ακρίβεια των δεδομένων, αβλεψία, κόστος και διασφάλιση έτσι ώστε να μην γίνει κατάχρηση του συστήματος ή να μην υπάρξει πρόσβαση στο σύστημα από μη εξουσιοδοτημένα άτομα, κλπ. Η αναφορά του GAO ανακάλυψε ότι δεν είχαν ικανοποιηθεί οι εννέα από τις δέκα απαιτήσεις και ερώτησε κατά πόσο θα είναι αποτελεσματικό το πρόγραμμα Secure Flight. Μερικές ενδιαφέρουσες ειδησούλες: Η TSA σχεδιάζει να συμπεριλάβει τη δυνατότητα ποινικών ελέγχων στο πρόγραμμα Secure Flight (σελ. 12). Το χρονοδιάγραμμα είναι εκπρόθεσμο κατά τέσσερις μήνες (σελ.17). Η TSA ενδεχομένως να μην έχει τη δυνατότητα να λαμβάνει προσωπικά αναγνωρίσιμα δεδομένα επιβατών από τα Αρχεία Ονόματος Επιβατών (PNR) λόγω του κόστους στη βιομηχανία και της έλλειψης χρημάτων (σελ.18). Η TSA σχεδιάζει να επανδρώσει το προσωπικό της με αναλυτές πληροφοριών για να εντοπίζουν τους λανθασμένους θετικούς συναγερμούς (σελ.33). Το Συμβούλιο Εξέτασης των Επενδύσεων της DHS έχει αρνηθεί να δώσει την έγκρισή του για την «Πλατφόρμα Έγκρισης Μεταφορών» (σελ.39). Η TSA δεν γνωρίζει πόσο θα κοστίσει το πρόγραμμα (σελ.51). Ο τελικός κανονισμός περί ιδιωτικότητας θα εκδοθεί τον Απρίλιο (σελ.56). Αυτές οι δύο αναφορές στριμώχνουν την TSA. Βάσει του Κογκρέσου απαγορεύεται να δοκιμαστεί πρακτικά το πρόγραμμα Secure Flight μέχρι να ικανοποιηθεί μία σειρά από κριτήρια. Από την άλλη πλευρά, δεν είμαι σίγουρος εάν η TSA νοιάζεται. Έχει ήδη ανακοινώσει τα σχέδιά της για την εμφάνιση του προγράμματος Secure Flight. Τον Αύγουστο θα θέσει σε εφαρμογή το πρόγραμμα σε εθνικό επίπεδο με δύο εταιρείες αερογραμμών που δεν έχει κατονομάσει ακόμη. Γνωρίζετε πολύ καλά τις θέσεις μου σχετικά με το πρόγραμμα Secure Flight. Είμαι μέλος μιας ομάδας εργασίας που βοηθάει στην αξιολόγηση της προστασίας της ιδιωτικότητας του προγράμματος. Παρόλο που πιστεύω ότι ένα πρόγραμμα που συγκρίνει τους επιβάτες αερογραμμών με λίστες παρακολούθησης τρομοκρατών, αποτελεί ένα κολοσσιαίο χάσιμο χρημάτων που δεν θα μας καταστήσει περισσότερο ασφαλείς, δήλωσα ότι «…αν υποθέσουμε ότι χρειάζεται να υλοποιήσουμε ένα πρόγραμμα αναγνώρισης επιβατών αερογραμμών με μία λίστα παρακολούθησης τρομοκρατών, το πρόγραμμα ‘Ασφαλής Πτήση’ αποτελεί μία πολύ σημαντική βελτίωση – σχεδόν σε κάθε τομέα – συγκριτικά με ο,τιδήποτε υπάρχει σήμερα». Ακόμη το πιστεύω, αλλά δυστυχώς, η σύμβαση διαφύλαξης του απορρήτου των πληροφοριών μού απαγορεύει να περιγράψω τις βελτιώσεις. Μακάρι κάποιος από την TSA να έβγαινε και να παρείχε αυτές τις πληροφορίες στους δημοσιογράφους. Η αναφορά του Γενικού Επιθεωρητή: <http://www.dhs.gov/interweb/assetlibrary/OIGr-05-12_Mar05.pdf> Ένα άρθρο με θέμα την αναφορά του Γενικού Επιθεωρητή: <http://www.dailystar.com/dailystar/news/67386.php> Τα προηγούμενα σχόλια μου για το πρόγραμμα Secure Flight: <http://www.schneier.com/crypto-gram-0501.html#9> <http://www.schneier.com/crypto-gram-0502.html#1> Επίσης, τα προσωπικά δεδομένα επιβατών χρησιμοποιούνται από το Κέντρο Ελέγχου Νοσημάτων: <http://www.boston.com/news/nation/washington/articles/2005/04/07/delta_hoping_to_curb_spread_of_diseases/> Τα σχόλιά μου: <http://www.schneier.com/blog/archives/2005/04/more_uses_for_a.html> ------------------------------------------------------------------------ Το Κρυπτόγραμμα αποτελεί την ελληνική μετάφραση του Crypto-Gram και διανέμεται μέσω λιστών ηλεκτρονικού ταχυδρομείου κάθε 21 του μηνός. Το Crypto-Gram αποτελεί μία δωρεάν μηνιαία εφημερίδα με θέμα την ασφάλεια και την ασφάλεια της τεχνολογίας που εκδίδεται κάθε 15 του μηνός από τον Bruce Schneier Σας ενθαρρύνουμε να προωθήσετε το Κρυπτόγραμμα σε φίλους ή συναδέλφους που θα το βρούν χρήσιμο. Η ανατύπωση σε ηλεκτρονικά ή έντυπα μέσα των άρθρων του Κρυπτογράμματος επιτρέπεται μετά από έγγραφη ή ηλεκτρονική άδεια από το διαχειριστή του Cryptogram.gr. Τα άρθρα θα δημοσιεύονται αυτούσια χωρίς αλλαγές ή παρεμβάσεις. Για περισσότερες λεπτομέρειες αναφερθείτε στις συχνές ερωτήσεις <http://www.cryptogram.gr/faq.php?a=28#28>. ©Copyright Cryptogram.gr 2004-2005
gv Δημοσ. 22 Απριλίου 2005 Δημοσ. 22 Απριλίου 2005 tora esy nomizeis oti diavasa olo to post sou eee ?
deathlok Δημοσ. 22 Απριλίου 2005 Δημοσ. 22 Απριλίου 2005 eleos re paidia me afta ta ateliota copy paste.grafoume mia sintomi kai periektiki perigrafi kai dinoume kai to link na paei o allos na diavasei ta panta an thelei
Theodore Tsi Δημοσ. 22 Απριλίου 2005 Δημοσ. 22 Απριλίου 2005 παίζει να είναι και το μεγαλύτερο copy paste που έχω δει στο insomnia..... ΕΛΕΟΣ!!!!!!
bigbrother Δημοσ. 22 Απριλίου 2005 Δημοσ. 22 Απριλίου 2005 Ως προς τις απαντήσεις που πήρε αυτό το thread: Είναι πολύ εύκολο να (κατα) κρίνουμε άλλα πολύ δύσκολο να παράγουμε κάτι αξιόλογο. Συγχαρητήρια στο φίλο cryptogram για τη δουλεία που έχει κάνει. Αν και είναι μετάφραση, του αξίζουν τα εύσημα για τον κόπο του. Όσο περισσότερες πληροφορίες βρίσκονται στα Ελληνικά, τόσο πιο εύκολα θα είναι για κάποιους πατριώτες που συναντάν προβλήματα με τα Αγγλικά. Και παιδία μην είστε τόσο επικριτικοί και "κακοί" σε ένα "νέο" άτομο (γράφτηκε στις 16-02-2005) @gv Τι σημαίνει το ποστ σου αυτό; 'Ηταν κάτι χρήσιμο για το thread? Αυτό που έγραψες θα μπορούσες να το πεις με PM @deathlok Είσαι πολύ σωστός! Αντί οι άλλοι (που απάντησαν) να δώσουν συμβουλές, κάναν μόνο ανούσια σχόλια. Φίλε cryptogram μπορούσες να δώσεις έναν σύνδεσμο προς την σελίδα σου και να μην βάλεις όλο αυτό το κατεβατό που βρίσκεται στο δικτυακό σου τόπο. @Theodore_Tsi Από τη στιγμή που έχει κάτσει και το έχει μεταφράσει μόνος του δεν είναι αντιγραφή-απόθεση!!! Εξάλου, η επαναχρησιμοποίηση της γνώσης (μέσω copy-paste) δεν είναι κάτι κακό. Φιλικά, BB
Theodore Tsi Δημοσ. 27 Απριλίου 2005 Δημοσ. 27 Απριλίου 2005 ώπα γιατί τώρα είδα απάντηση..... @bigbrother κανείς δεν είπε φίλε ότι είναι κακό το copy paste.....αλλα με όρια.... η συγκεκριμένη μετάφραση δεν δημιουργήθηκε και ανέβηκε στο τόπικ αυτό μόνο....link υπάρχει και μάλιστα ΠΕΝΤΑΚΑΘΑΡΟ! http://www.cryptogram.gr/read.php?mhnas=04&xronos=2005 τόσο απλό... κανείς δεν νομίζω να κατακρίνει καποίον για μια προσπαθεία του....αλλά αυτή του την προσπάθεια να την παρουσιάζει και σωστά...δεν μπορεί να γίνεται ποστ κάτι που πιάνει 18 σελίδες σε word....είναι κουραστικό και αρκετά ενοχλητικό.... cryptogram πάντως να ξέρεις ότι η σελίδα σου είναι ήδη στα favorites... αυτά από μένα...
mjmj Δημοσ. 15 Φεβρουαρίου 2006 Δημοσ. 15 Φεβρουαρίου 2006 Μιας και μιλαμε περι security... http://www.in.gr/news/article.asp?lngEntityID=684455&lngDtrID=252
Προτεινόμενες αναρτήσεις
Αρχειοθετημένο
Αυτό το θέμα έχει αρχειοθετηθεί και είναι κλειστό για περαιτέρω απαντήσεις.