ΕΠΙΣΤΗΜΗ ΤΗΣ ΤΕΧΝΟΛΟΓΙΑΣ ΦΕΒΡΟΥΑΡΙΟΥ ~ αρχές της ρομποτικής

παρουσίαση νέων τεχνολογιών & η χρηστικότητα & συμβολή τους στην καθημερινότητα

*Το ρομπότ δεν μπορεί να τραυματίσει τον άνθρωπο, ή να επιτρέψει, μέσω αμέλειας, τον τραυματισμό του ανθρώπου.
*Το ρομπότ πρέπει να υπακούει στις εντολές που του δίνει ο άνθρωπος εκτός και αν αυτές οι εντολές έρχονται σε αντιπαράθεση με τον πρώτο νόμο.

*Το ρομπότ πρέπει να προστατεύει τον εαυτό του αρκεί να μην παραβαίνει την πρώτη ή την δεύτερη εντολή.

Σε πολλούς, αυτοί οι τρεις νόμοι, μπορεί να φαίνονται γνώριμοι. Είναι οι 3 Νόμοι της Ρομποτικής τους οποίους καθιέρωσε ο συγγραφέας επιστημονικής φαντασίας Isaac Asimov το 1942! Οι Νόμοι αυτοί αποτελούν κομμάτι κάθε ρομποτικής μηχανής και δεν μπορούν να παρακαμφθούν ή διαγραφούν.

Πλέον, είμαστε στο 2017 και πολλά έχουν αλλάξει από τότε. Το κυριότερο είναι ότι η ρομποτική πλέον δεν είναι σενάριο επιστημονικής φαντασίας, αλλά, πραγματικότητα! Και επειδή, όπως έχουμε κουβεντιάσει πολλές φορές από αυτή την ενότητα, η ρομποτική έχει ηθικές και κοινωνικές προεκτάσεις, είναι πολύ σημαντικό να προσδιορίσουμε κανόνες που την διέπουν. Και είναι εξίσου σημαντικό να το κάνουμε τώρα που είμαστε ακόμα στην αρχή.

Αυτό ήταν και ένα από τα ζητούμενα του συνεδρίου Beneficial AI 2017 που πραγματοποιήθηκε στο Πουέρτο Ρίκο στις αρχές του έτους. Το Ινστιτούτο Future of Life, διοργάνωσε στα πλαίσια του συνεδρίου Beneficial AI 2017, ένα εργαστήρι 2,5 ημερών όπου διακεκριμένοι επιστήμονες από όλο τον κόσμο και όλα τα κομμάτια της Τεχνητής Νοημοσύνης κατέληξαν σε 23 Αρχές τις οποίες όλοι πρέπει να τηρούν όταν ασχολούνται με την ανάπτυξη Τεχνητής Νοημοσύνης και Ρομποτικής.

Έχει ιδιαίτερο ενδιαφέρον να δούμε επιγραμματικά αυτές τις Αρχές, ανά κατηγορία:

Έρευνα:

1. Ο στόχος της έρευνας είναι να δημιουργήσει Τεχνητή Νοημοσύνη (ΑΙ Artificial Intelligence) που ωφελεί την ανθρωπότητα.
2. Η χρηματοδότηση στην έρευνα ΑΙ πρέπει να καλύπτει και έρευνα γύρω από την ηθική, την νομοθεσία, τις κοινωνικές επιστήμες, κλπ.
3. Πρέπει να υπάρχει υγιής σχέση ανάμεσα στους επιστήμονες και τους νομοθέτες.
4. Πρέπει να υπάρχει διαφάνεια και εμπιστοσύνη στην επιστημονική κοινότητα.
5. Πρέπει πάση θυσία να αποφεύγονται πρόχειρες λύσεις και μπαλώματα. Όλοι οι κανόνες ασφαλείας πρέπει να τηρούνται κατά γράμμα.

Ηθική και Αξίες:

1. Όλα τα συστήματα ΑΙ πρέπει να λειτουργούν με ασφάλεια για όσο χρονικό διάστημα βρίσκονται σε λειτουργία και αυτή η ασφαλής λειτουργία θα πρέπει να μπορεί να επικυρωθεί οποιαδήποτε στιγμή.
2. Σε περίπτωση βλάβης ή τραυματισμού, θα πρέπει να μπορούμε να καταλάβουμε τι έφταιξε.
3. Δικαστικές ή νομοθετικές αποφάσεις που λαμβάνονται από ΑΙ πρέπει να καταγράφονται και να επεξηγούνται με πλήρη λεπτομέρεια.
4. Οι σχεδιαστές και προγραμματιστές ΑΙ είναι υπεύθυνοι για την χρήση αλλά και την κατάχρηση του προϊόντος τους.
5. Οι μηχανές ΑΙ πρέπει να έχουν την ίδια αντίληψη ηθικής και ευθύνης με τους ανθρώπους.
6. Συστήματα ΑΙ πρέπει να σχεδιάζονται με γνώμονα τις ανθρώπινες αξίες ηθικής, ελευθερίας, κλπ.
7. Οι άνθρωποι θα πρέπει να μπορούν να προσπελάσουν και να διαχειριστούν τα προσωπικά δεδομένα που χειρίζονται οι εφαρμογές ΑΙ.
8. Τα προσωπικά δεδομένα που συλλέγονται από τις μηχανές πρέπει να προστατεύονται επαρκώς.
9. Οι εφαρμογές ΑΙ πρέπει να σχεδιάζονται με σκοπό να επωφεληθούν όσο πιο πολλοί άνθρωπο.
10. Τα οικονομικά οφέλη από την χρήση ΑΙ θα πρέπει να μοιράζονται με όλη την ανθρωπότητα.
11. Ο άνθρωπος θα πρέπει να μπορεί να ελέγχει και να αποφασίζει τι καθήκοντα μπορεί να δώσει στην ΑΙ.
12. Ο άνθρωπος δεν θα πρέπει να υποδουλώνει τις μηχανές αλλά να εκτιμά τις δυνατότητες και την προσφορά τους.
13. Θα πρέπει να αποφευχθεί η χρήση της ΑΙ στην βιομηχανία όπλων και πολέμου.

Μακροχρόνιες Αρχές:

1. Δεν θα πρέπει να κάνουμε εικασίες σχετικά με το πόσο μακριά μπορούμε να φτάσουμε την τεχνολογία της ΑΙ.
2. Η τεχνολογία αυτή μπορεί να επιφέρει θεμελιώδες αλλαγές στην ανθρωπότητα και τον πλανήτη για αυτό και πρέπει να σχεδιαστεί προσεκτικά.
3. Καλή διαχείριση ρίσκου είναι επιτακτική.
4. Μηχανισμοί ελέγχου θα πρέπει να σχεδιάζονται και να υλοποιούνται σε κάθε ΑΙ εφαρμογή.
5. Ενδεχόμενη έρευνα γύρω από την υπέρ-νοημοσύνη θα πρέπει να γίνει μόνο με γνώμονα το κοινό καλό όλης της ανθρωπότητας.

Η λίστα αυτή δεν είναι η τελική, ούτε και ολοκληρωμένη, αλλά, δίνει μια πολύ καλή ιδέα του πόσο έχει αλλάξει η αντίληψη των επιστημόνων τα τελευταία χρόνια. Είναι τρανή απόδειξη ότι η ΑΙ και τα ρομπότ έχουν αρχίσει και μπαίνουν για τα καλά στην ζωή μας σε σημείο μάλιστα που η επιστημονική κοινότητα αντιλαμβάνεται ότι πρέπει να αναλάβει δράση και να σχεδιάσει το ηθικό και νομοθετικό πλαίσιο υπό το οποίο οι μηχανές αυτές θα δουλεύουν.

Αν ο Isaac Asimov ζούσε, θα είχε εκπλαγεί με την πρόοδο που έχουμε κάνει σαν ανθρώπινο είδος. Και θα συνειδητοποιούσε ότι αν ο άνθρωπος ονειρευτεί ή φανταστεί κάτι, είναι θέμα χρόνου μέχρι να το υλοποιήσει! +Vassilis Anastasiadis

---

σχόλια; αντιρρήσεις; ερωτήσεις;

ΠΡΟΣΘΕΣΤΕ ΤΟΝ ΠΡΟΒΛΗΜΑΤΙΣΜΟ ΣΑΣ

ΠΑΝΩ ΣΤΟ ΣΗΜΕΡΙΝΟ ΘΕΜΑ