Ένας όρκος του Ιπποκράτη για την τεχνητή νοημοσύνη

Ένα θέμα που ανέπτυξε ο «Γεωδίφης» (Νίκος Ιερομνήμων) στο https://geogeodifihs.blogspot.com

ΦΩΤΟ: Γεωδίφης

ΛΕΖΑΝΤΑ: Ο Ιπποκράτης  συνεχίζει να εμπνέει και να καθοδηγεί την επιστημονική κοινότητα...Ας ξαναβρούμε τον Ιπποκράτη λένε σήμερα!

Πριν από 2,4 χιλιετίες, ο Ιπποκράτης επινόησε έναν όρκο για να δεσμεύσει τους επαγγελματίες της αναδυόμενης πρακτικής της ιατρικής. Τώρα απαιτείται ένα σύγχρονο ισοδύναμο για την αντιμετώπιση της εξίσου μεταμορφωτικής άφιξης της τεχνητής νοημοσύνης. Οι κορυφαίοι ψηφιακοί ηγέτες βρέθηκαν πρόσφατα σε ένα στρογγυλό τραπέζι στην Ουάσιγκτον:

«Νομίζω ότι χρειαζόμαστε έναν όρκο του Ιπποκράτη για την τεχνητή νοημοσύνη: Πρώτον, μην κάνεις κακό», είπε ο Τζέφρι Σαβιάνο. «Μας λείπει ένα επίπεδο θεμελιωδών ανθρωπίνων δικαιωμάτων, προσωπικής ιδιωτικής ζωής, μερικά από αυτά είναι κωδικοποιημένα, αλλά μερικά από αυτά δεν είναι. Χρειαζόμαστε νέα πλαίσια βασισμένα στην ηθική που θα καθοδηγούν τη λήψη αποφάσεων AI».

Ο Saviano είναι κορυφαίος εμπειρογνώμονας των ΗΠΑ στη δεοντολογία της τεχνητής νοημοσύνης, με διδακτικούς ή ερευνητικούς ρόλους στο Χάρβαρντ, στο MIT και στη Νομική Σχολή του Πανεπιστημίου της Βοστώνης και ηγείται της Αναδυόμενης Τεχνολογικής Στρατηγικής και Πρακτικής Διακυβέρνησης στην ΕΥ Consulting, συνεργάτη παροχής γνώσης κυβερνητικών υπηρεσιών.

Καθώς η σύγχρονη ιατρική εμφανίστηκε για πρώτη φορά στην αρχαία Ελλάδα, πριν από περισσότερα από 2.400 χρόνια, ο φιλόσοφος και γιατρός Ιπποκράτης επινόησε έναν όρκο να δεσμεύσει τους ιατρούς της σε έναν ηθικό κώδικα. Η ανάπτυξη της τεχνητής νοημοσύνης παρουσιάζει μια νέα σειρά ηθικών προκλήσεων και το κοινό του Saviano –περίπου 40 ανώτεροι ψηφιακοί ηγέτες από αμερικανικά τμήματα και υπερπόντιες κυβερνήσεις– ήταν οι διάδοχοι των ιατρικών συναδέλφων του Ιπποκράτη, ασκώντας μια αναδυόμενη πειθαρχία με τεράστια σημασία για την ευημερία των γενιών του μέλλοντος .

Πώς θα πρέπει να χειριστούν οι διευθυντές πληροφορικής του δημόσιου τομέα αυτήν την επαναστατική νέα τεχνολογία και πώς πρέπει οι κυβερνήσεις να ρυθμίσουν τη χρήση της στον ιδιωτικό τομέα; Σε μια συζήτηση στρογγυλής τραπέζης που πραγματοποιήθηκε στο Government DX (τώρα μετονομάστηκε σε Κυβερνητική Παράδοση Υπηρεσιών ) στην Ουάσιγκτον, η ομάδα αναζήτησε απαντήσεις σε αυτές τις πιεστικές ερωτήσεις.

Μια υπόσχεση για τους ασκούμενους

ΦΩΤΟ: Γεωδίφης 1

ΛΕΖΑΝΤΑ: Jeffrey  Saviano, ηγείται της Αναδυόμενης Τεχνολογικής Στρατηγικής και Πρακτικής Διακυβέρνησης στο GovernmentDX. Φωτογραφία: Taylor Mickal Photography.

Κατά την άποψη του Σαβιάνο, το μοντέλο του όρκου του Ιπποκράτη – το οποίο θέτει την ευθύνη για την ηθική στους ασκούμενους καθώς και στην κυβέρνηση – είναι λογικό. «Αν περιμένουμε μια ομοιόμορφη, παγκόσμια βαριά κυβερνητική ρύθμιση για την αναδυόμενη τεχνολογία, η ιστορία μας λέει ότι αυτή η μέρα πιθανότατα δεν θα έρθει ποτέ», είπε. «Υπάρχει ένα κενό τεχνολογικής διακυβέρνησης στον κόσμο και χρειαζόμαστε μεγαλύτερη συνεισφορά από την επιχειρηματική κοινότητα». Οι υπεύθυνοι χάραξης πολιτικής τείνουν να εστιάζουν στην ανάπτυξη της τεχνητής νοημοσύνης σε μερικές μεγάλες εταιρείες τεχνολογίας, υποστήριξε, αλλά «πρέπει να εξετάσουμε το εύρος των οργανισμών που αναπτύσσουν και λανσάρουν συστήματα τεχνητής νοημοσύνης», περιμένοντας ο καθένας από αυτούς να «ενισχύσει και να λάβει μερικά από αυτά βάρος ευθύνης». Σε αυτόν τον εκκολαπτόμενο αλλά ταχέως αναπτυσσόμενο κλάδο, πρόσθεσε ο Saviano, λιγότερα από 5.000 εταιρικά διοικητικά συμβούλια σε επιχειρήσεις του Fortune 500 «έχουν ευθύνες επίβλεψης που επηρεάζουν ένα μεγάλο μέρος της ανάπτυξης της τεχνητής νοημοσύνης στον κόσμο. Αν μπορούσατε να τους εκπαιδεύσετε για μια μέρα για τα σημαντικά οφέλη και τα βάρη αυτής της ισχυρής τεχνολογίας, τότε θα μπορούσατε να αλλάξετε τον κόσμο».

Άλλοι ψηφιακοί ηγέτες αμφισβήτησαν την προσέγγιση του Saviano. «Δεν είμαι σίγουρος ότι υπάρχουν πολλά, τις τελευταίες δύο δεκαετίες μεγάλων εταιρειών τεχνολογίας και μέσων κοινωνικής δικτύωσης, που υποδηλώνουν ότι οι επιχειρήσεις τεχνολογίας θα αυτορυθμιστούν για έναν καλύτερο κόσμο, εκτός κι αν χρειαστεί», σχολίασε ένας ανώτερος ηγέτης στο εξωτερικό. 

Ένας άλλος επεσήμανε ότι «οι εταιρείες μέσων κοινωνικής δικτύωσης χρησιμοποιούν πολύ ενεργά δεδομένα για την προώθηση επιβλαβών δεσμεύσεων στο διαδίκτυο: δίνουν προτεραιότητα σε πράγματα που προκαλούν συγκρούσεις και αγωνία επίτηδες. Είναι σαν να ελπίζουμε ότι αυτό δεν θα συμβεί με την τεχνητή νοημοσύνη». Η τεχνολογία χρησιμοποιείται ήδη για τη δημιουργία «ψεύτικης πορνογραφίας» ως όπλο για την κακοποίηση γυναικών πολιτικών, είπε μια τρίτη φωνή, σημειώνοντας ότι: «Το 90% των γυναικών βουλευτών στην Αφρική έχουν αποχωρήσει από τα μέσα κοινωνικής δικτύωσης επειδή είναι τόσο βίαια, με αυτές τις επιθέσεις».

Ο ρόλος της ρύθμισης

«Υπάρχει σίγουρα ρόλος για τη ρύθμιση», συμφώνησε ο Saviano, επαινώντας την προσέγγιση που βασίζεται στον κίνδυνο που υιοθετήθηκε στον νόμο AI της ΕΕ. Οι κανόνες της ΕΕ για τον Γενικό Κανονισμό Προστασίας Δεδομένων (GDPR) είχαν επιρροή σε όλο τον κόσμο, είπε, και «υπάρχει πιθανότητα ο νόμος της ΕΕ για την τεχνητή νοημοσύνη να έχει την ίδια παγκόσμια τροχιά και αντίκτυπο. Νομίζω ότι είναι και θέμα επιβολής». Θα γίνει σαφές μέσα στα επόμενα χρόνια, πρόσθεσε, εάν ο νόμος έχει επαρκή εμβέλεια και αντίκτυπο για να αντιμετωπίσει την πρόκληση – «αλλά εάν επιτύχει το ήμισυ από ό,τι έκανε ο GDPR, όσον αφορά την ομοιόμορφη, σύγχρονη, με επίκεντρο τον πολίτη προσέγγιση στη ρύθμιση , τότε θα ήμασταν σε καλύτερο μέρος».

Ο Saviano  παρουσίασε ένα νέο πλαίσιο δεοντολογίας εφαρμοσμένης τεχνητής νοημοσύνης σε σχήμα πυραμίδας, που αναπτύχθηκε από την ερευνητική του ομάδα στο Χάρβαρντ, το οποίο καθορίζει τέσσερα επίπεδα ηθικών ενεργειών τεχνητής νοημοσύνης για επιχειρήσεις. Το κάτω επίπεδο αντιπροσωπεύει ενέργειες συμμόρφωσης με νόμους και κανονισμούς που δεν αφορούν τεχνητή νοημοσύνη, οι οποίοι ωστόσο σχετίζονται με συστήματα τεχνητής νοημοσύνης, όπως ο GDPR. Το δεύτερο περιέχει τη συμμόρφωση με το «λεπτό στρώμα του κανονισμού AI που υπάρχει στον κόσμο σήμερα». Το τρίτο περιλαμβάνει εταιρικές πράξεις ή πρωτοβουλίες που δεν είναι μόνο καλές για τις επιχειρήσεις αλλά και ωφελούν την κοινωνία, όπως η άρση της μεροληψίας και η διασφάλιση της διαφάνειας στη χρήση της τεχνητής νοημοσύνης. Τέλος, η κορυφή της πυραμίδας αντιπροσωπεύει ενέργειες όπου «μπορεί να μην υπάρχει επιστροφή για την επιχείρηση, αλλά υπάρχει επιστροφή για τον κόσμο».

Η εφαρμογή αυτών των πλαισίων θα πρέπει να επιβλέπεται από ισχυρά συστήματα διακυβέρνησης, με εμπειρογνώμονες τεχνητής νοημοσύνης και ανώτερους οργανωτικούς ηγέτες. Στο Υπουργείο Εξωτερικών των ΗΠΑ, είπε ο επικεφαλής επιστήμονας δεδομένων και υπεύθυνος αξιωματούχος τεχνητής νοημοσύνης Dr Giorleny Altamirano Rayo, μια συντονιστική επιτροπή τεχνητής νοημοσύνης αναφέρεται σε ένα συμβούλιο επιχειρηματικών δεδομένων και τεχνητής νοημοσύνης, το οποίο το ίδιο τροφοδοτεί ένα διοικητικό συμβούλιο επιχείρησης.

Η τεχνητή νοημοσύνη σε δράση

Αυτή η αρχιτεκτονική απαιτείται για να αποφευχθούν ορισμένοι από τους κινδύνους που εμπλέκονται στην τεχνητή νοημοσύνη, είπε ο Rayo, επιτρέποντας στο Στέιτ Ντιπάρτμεντ να διερευνήσει με ασφάλεια τις δυνατότητες των τεχνολογιών. Για παράδειγμα, χρησιμοποιείται η τεχνητή νοημοσύνη για την εξέταση των κρατικών αρχείων πριν από την έκδοσή τους βάσει κανόνων που αποχαρακτηρίζουν αυτόματα έγγραφα μετά από 25 χρόνια. Όλα αυτά τα δεδομένα πρέπει να εξεταστούν και να εγκριθούν πριν από τη δημοσίευση. «Παλιά, η διαδικασία ήταν χειροκίνητη: είχατε μια ολόκληρη ομάδα ανθρώπων που διάβαζαν email και έγγραφα μέρα με τη μέρα», είπε. «Παράξαμε ένα μοντέλο ανοιχτού κώδικα και το εκπαιδεύσαμε να προσθέτει ετικέτες στα δεδομένα ως «ξεκάθαρα αποχαρακτηρίσιμα», «δεν είμαι σίγουρος» ή «ταξινομήσιμα».

Το μοντέλο μπορεί τώρα να «ταξινομήσει σωστά το 98% του χρόνου, κάτι που εξοικονομεί τους ανθρώπους αναθεωρητές το 60% του χρόνου τους – έτσι υπάρχει 60% κέρδος απόδοσης», πρόσθεσε ο Rayo. «Η χρήση της τεχνητής νοημοσύνης με έξυπνο τρόπο, με τους ανθρώπους στο βρόχο, μας επιτρέπει να επιτύχουμε επαχθή καθήκοντα που πρέπει να αναλάβουμε».

Ο Chang Sau Sheong, αναπληρωτής διευθύνων σύμβουλος της Κυβερνητικής Τεχνολογικής Υπηρεσίας της Σιγκαπούρης – μιας από τις πιο προηγμένες κυβερνήσεις στον κόσμο στην ανάπτυξη μη στρατιωτικής τεχνητής νοημοσύνης – τόνισε μερικούς από τους άλλους τρόπους με τους οποίους αυτές οι τεχνολογίες μπορούν να βελτιώσουν τις υπηρεσίες και τη λειτουργική απόδοση. Η Σιγκαπούρη, για παράδειγμα, χρησιμοποιεί τεχνητή νοημοσύνη για να βρει τις πληροφορίες που απαιτούνται για να απαντήσει σε κοινοβουλευτικές ερωτήσεις. Προηγουμένως, «κατά μέσο όρο αφιερώναμε 10 ώρες απαντώντας σε κάθε ερώτηση», είπε. «Με αυτή, μπορείτε να το κάνετε σε 10 λεπτά». Και οι πολίτες απαντούν στα ερωτήματά τους με τεχνητή νοημοσύνη: σε ευαίσθητες περιοχές, εξήγησε ο Chang, το σύστημα αποτρέπει τον κίνδυνο παραισθήσεων βασιζόμενο σε «προσυσκευασμένα, επαληθευμένα από τον άνθρωπο πακέτα δεδομένων» αντί να δημιουργεί απαντήσεις από την αρχή.

Η χώρα έχει επίσης προηγμένα chatbots και έχει αναπτύξει μερικά σε ολοκαίνουργιες δημόσιες υπηρεσίες: ένα, είπε ο Chang, παρέχει εξατομικευμένες συμβουλές σταδιοδρομίας σε άτομα που σκέφτονται να αλλάξουν επάγγελμα. Και η υπηρεσία του έχει εκπαιδεύσει συστήματα τεχνητής νοημοσύνης για την αντιμετώπιση των τοποθεσιών phishing που επιδιώκουν να εξαπατήσουν τους πολίτες. «Η Σιγκαπούρη στοχεύεται συχνά πολύ άσχημα από απάτες», είπε. «Αναζητούμε ιστότοπους που είναι δυνητικά προβληματικοί και τους επισημαίνουμε για να τους κοιτάξουν οι χρήστες».

Από το GenAI στο Gen Z

Ερωτηθείς πώς η κυβέρνηση ενθάρρυνε και υποστήριξε τους αξιωματούχους της Σιγκαπούρης να κάνουν χρήση αυτών των εργαλείων, ο Chang απάντησε ότι «υπάρχει πολλή δουλειά στην εκπαίδευση των δημοσίων υπαλλήλων. Διοργανώνουμε bootcamps και εργαστήρια, κάνουμε διαγωνισμούς και κάνουμε γενική εκπαίδευση για να εξηγήσουμε σε όλους τι είναι η τεχνητή νοημοσύνη – να τους κάνουμε άνετα με την ιδέα».

Η Σιγκαπούρη έχει επίσης δημιουργήσει ένα μεγάλο και υψηλής ειδίκευσης εργατικό δυναμικό ειδικών τεχνητής νοημοσύνης εντός του οργανισμού του Chang, δημιουργώντας δυνατότητες που ζηλεύουν οι περισσότερες άλλες κυβερνήσεις. «Χρειαζόμαστε τεχνικούς διαχειριστές προϊόντων, μηχανικούς λογισμικού, επιστήμονες δεδομένων», δήλωσε ένας CIO του τμήματος των ΗΠΑ. «Το ταλέντο που επιτρέπει την τεχνητή νοημοσύνη είναι κρίσιμο για να μπορέσουμε να προχωρήσουμε οποιοδήποτε από αυτά».

Η πρόσληψη και η ανάπτυξη αυτών των δεξιοτήτων είναι καθήκον των διευθυντών ανθρώπινου δυναμικού των οργανισμών, σχολίασε ο Saviano, σημειώνοντας ότι θα πρέπει να βοηθήσουν στη «δημιουργία ενός πλούσιου περιβάλλοντος τεχνητής νοημοσύνης για την προσέλκυση ειδικών τεχνητής νοημοσύνης «Gen Z»». Όταν οι οργανισμοί αποκτούν τη φήμη ότι βρίσκονται στην αιχμή της ανάπτυξης της τεχνητής νοημοσύνης, πρόσθεσε, τα ταλέντα ρέουν μέσα: «Πρέπει να βρείτε έναν τρόπο να προσελκύσετε καρδιές και μυαλά».

Το άλλο κλειδί για την ενθάρρυνση της υιοθέτησης της τεχνητής νοημοσύνης από το εργατικό δυναμικό, είπε ένας ψηφιακός ηγέτης, είναι να δοθούν στους ανθρώπους προσβάσιμα, αποτελεσματικά εργαλεία τεχνητής νοημοσύνης. «Αν τους είναι χρήσιμα, γαντζώνονται και πηγαίνουν σε άλλα εργαλεία», σχολίασαν. Οι κεντρικές ψηφιακές μονάδες μπορούν να παρέχουν εργαλεία για χρήση σε όλη τη δημόσια διοίκηση – και αυτό, σχολίασε ένας CIO του υπουργείου των ΗΠΑ, μπορεί επίσης να βοηθήσει στην αντιμετώπιση του προβλήματος των ελλείψεων δεξιοτήτων. «Ποιες είναι οι εφαρμογές που δεν είναι τόσο συγκεκριμένες, ώστε να μπορούμε να εργαστούμε σε διακυβερνητικό επίπεδο;», είπαν. «Φοβάμαι ότι δεν θα έχουμε ακόμα τους πόρους για να προσλάβουμε όλους όσους χρειαζόμαστε σε όλες τις υπηρεσίες».

Η δύναμη του μοιράσματος

Τέτοια εργαλεία μπορούν να κοινοποιηθούν διεθνώς αλλά και ενδοκυβερνητικά, σχολίασε ο Saviano. Ανέφερε την πλατφόρμα ανταλλαγής δεδομένων X-Road της Εσθονίας και το παγκόσμιο σύστημα διαχείρισης πληροφοριών υγείας DHIS2 ως παραδείγματα «ψηφιακών δημόσιων αγαθών που χρησιμοποιούνται από πολλά έθνη και επιτυγχάνουν πολλαπλά οφέλη. Φανταστείτε αν υπήρχε μια αγορά τεχνητής νοημοσύνης στην οποία θα μπορούσαμε να αξιοποιήσουμε: μια παγκόσμια αγορά ψηφιακού δημόσιου αγαθού ως πηγή πληροφοριών, δεδομένων, τεχνολογικών συστημάτων».

Εν τω μεταξύ, είπε ο Chang, μπορεί να σημειωθεί καλή πρόοδος με την παροχή εκπαίδευσης, εργαλείων και υποστήριξης, επιτρέποντας στους ανθρώπους να πειραματιστούν με ασφάλεια με αυτές τις αναδυόμενες τεχνολογίες – αποκτώντας αυτοπεποίθηση και βρίσκοντας το δρόμο τους γύρω από τα εμπόδια. «Είναι η αρχή αυτής της εποχής της τεχνητής νοημοσύνης», είπε. «Θέλουμε να πάμε προς τα χαμηλά και να λύσουμε τα προβλήματα, ώστε να κάνουμε το επόμενο βήμα στον δρόμο».

Στην πραγματοποίηση αυτού του ταξιδιού, κατέληξε ο Saviano, «υπάρχει σημαντικός ρόλος για φόρουμ όπως αυτό, όπου έχουμε τον ιδιωτικό και τον δημόσιο τομέα να ενώνονται». Συμμετέχοντας με ανώτερους ηγέτες από κυβερνητικά τμήματα και κεντρικές ψηφιακές ομάδες, τον δημόσιο και τον ιδιωτικό τομέα και χώρες σε όλο τον κόσμο, οι συζητήσεις του Government Service Delivery περιλάμβαναν ένα ευρύ φάσμα αντικρουόμενων προοπτικών και εμπειριών. «Υπάρχει μια μακρά σειρά έρευνας που δείχνει ότι αν θέλετε να καινοτομήσετε, η καλύτερη καινοτομία προέρχεται από τις πιο διαφορετικές ομάδες», είπε ο Saviano. 

«Μέρες όπως η σημερινή είναι ένα σημαντικό βήμα».

Με πληροφορίες από το globalgovernmentforum

https://www.globalgovernmentforum.com/the-case-for-a-hippocratic-oath-for-artificial-intelligence