“ Όπως αργεί τ’ ατσάλι να γίνει κοφτερό και χρήσιμο μαχαίρι έτσι αργούν κ’ οι λέξεις ν’ ακονιστούν σε λόγο.

Στο μεταξύ όσο δουλεύεις στον τροχό πρόσεχε μην παρασυρθείς μην ξιπαστείς απ’ τη λαμπρή αλληλουχία των σπινθήρων.

Σκοπός σου εσένα το μαχαίρι.

Άρης Αλεξάνδρου

Μια πρόωρη ελληνική νομοθετική πρωτοβουλία – απόπειρα θέσμισης υποβάθρου για την τεχνητή νοημοσύνη και άλλες αναδυόμενες τεχνολογίες

Με τις θετικές ψήφους της ΝΔ, του ΣΥΡΙΖΑ και του ΠΑΣΟΚ-ΚΙΝΑΛ ψηφίσθηκε επί της αρχής στην Ολομέλεια της Βουλής το σχέδιο νόμου του Υπουργείο Ψηφιακής Διακυβέρνησης «Αναδυόμενες τεχνολογίες πληροφορικής και επικοινωνιών, ενίσχυση της ψηφιακής διακυβέρνησης και άλλες διατάξεις».  Ήδη, νόμος του κράτους με τον αριθμό 4961/2022 που κουβαλά τις γνωστές παθογένειες.  Τροποποιεί προηγούμενη απόπειρα της κυβέρνησης με το ν. 4727/2020 να θεσπίσει κανόνες ψηφιακής διακυβέρνησης.  Σύντομα θ' αρχίσουν ν' αθροίζονται από την ίδια ή την επόμενη κυβέρνηση νέες τροποποιήσεις

Με το νομοσχέδιο η Κυβέρνηση δήλωσε ότι επιδιώκει να δημιουργήσει το θεσμικό υπόβαθρο και να επιβάλλει ρυθμίσεις για τις αναδυόμενες τεχνολογίες εισάγοντας εντυπωσιακές καινοτομικές διατάξεις, όπως ιδίως για την  Ψηφιακή αναβάθμιση της δημόσιας διοίκησης, ρυθμίσεις για την ανάπτυξη της τεχνητής νοημοσύνης, ρυθμίσεις για την ασφάλεια πληροφοριών και δικτύων και την προστασία δεδομένων προσωπικού χαρακτήρα, την αξιοποίηση προηγμένων τεχνολογιών, τις εφαρμογές τεχνολογίας διαδικτύου των πραγμάτων, εφαρμογές τεχνολογίας block chain κατανεμημένου καθολικού (Τ.Κ.Κ. - Distributed Ledger Technology - D.L.T.), ρυθμίσεις για τη διαδικασία τρισδιάστατης εκτύπωσης

Ο Υπουργός Ψηφιακής Διακυβέρνησης υπεραμύνθηκε της ρύθμισης κυρίως με πολιτικές κορώνες, με την ανακρίβεια, ότι η ρύθμιση αναγνωρίζει τις ευρωπαϊκές εξελίξεις και με ρητορική επίκληση ωριμότητας κοινωνικών, τεχνολογικών και οικονομικών συνθηκών και για λόγους εντυπωσιασμού του γνωστού διλήμματος του Collingridge.

Όμως οι επικλήσεις του είναι αδύναμες και δεν αρκούν.

Τόσο το κείμενο του νόμου, όσο και η αιτιολογική του έκθεση, αλλά και κυρίως οι θεσμικές ζυμώσεις που εξελίσσονται σε κοινοτικό επίπεδο, αλλά και ευρύτερα διεθνώς αποδυναμώνουν πλήρως τα επιχειρήματά του.

 Πράγματι,

Το πρόβλημα βηματοδότησης:

Είναι μεν γνωστό το «πρόβλημα βηματοδότησης» η ιδέα ότι η τεχνολογική καινοτομία ξεπερνά όλο και περισσότερο την ικανότητα των νόμων και των κανονισμών να συμβαδίζουν, που εξηγείται για πρώτη φορά στο βιβλίο του Larry Downes το 2009 The Laws of Disruption, στο οποίο δηλώνει περίφημα ότι «η τεχνολογία αλλάζει εκθετικά, αλλά τα κοινωνικά, οικονομικά και νομικά συστήματα αλλάζουν σταδιακά».

Όμως αυτό δεν είναι στην προκείμενη περίπτωση λόγος, δεν είναι επιτρεπτό να κάνει την κυβέρνηση να λειτουργήσει πρόωρα για τους λόγους που αναλύονται στη συνέχεια.

 Το νομοσχέδιο και η αιτιολογική του έκθεση προέκυψαν εξαιτίας του ψηφιακού πυρετού που έχει καταλάβει την κυβέρνηση και το συγκεκριμένο υπουργείο,  εν μέσω όμως γόνιμων αλλά ανολοκλήρωτων θεσμικών ζυμώσεων που εξελίσσονται σε κοινοτικό επίπεδο και περιλαμβάνουν, μελέτες των διαστάσεων των αναδυόμενων τεχνολογιών που αφορούν τη συνύπαρξή τους με ζητήματα προσωπικών δεδομένων, αστικής ευθύνης, νέων θεσμών, επιπτώσεων και στρατηγικής σύνθεσης συνολικού σφαιρικού θεσμικού πλαισίου.

Η πραγματικότητα αυτή, των κοινοτικών ζυμώσεων, δημιουργεί την ανάγκη, α) αξιολόγησης των αναδυόμενων τεχνολογιών,  β) τεκμηριωμένης διαπίστωσης της φάσης/ σταδίου  ανάπτυξης στην οποία βρίσκονται και γ) εξέτασης της ευχέρειας πρόβλεψης των επιπτώσεων θεσμικής ρύθμισής τους .

Αν η αξιολόγηση δείξει ότι οι αναδυόμενες τεχνολογίες έχουν αναπτυχθεί εκτενώς, εδραιωθεί και χρησιμοποιούνται ευρέως τότε οι επιπτώσεις μπορεί μεν ευκολότερα να προβλεφθούν, όμως η ανάγκη για αλλαγή είναι εμφανής, η αλλαγή έχει γίνει δαπανηρή, δύσκολη και χρονοβόρα.  Αν αντίθετα η αξιολόγηση δείξει, ότι δεν σημειώνεται ακόμη εκτενής ανάπτυξή τους, τότε  η αλλαγή είναι μεν εύκολη, η ανάγκη όμως γι αυτήν δεν μπορεί να προβλεφθεί.

Η αποκρυπτογράφηση της υπουργικής αξιολόγησης των αναδυόμενων τεχνολογιών που οδήγησε στην αλλαγή και τον έλεγχο τους με το υπό εξέταση νομοσχέδιο δεν είναι εύκολη μεν, όμως δεν είναι απαραίτητο και να γίνει.

Διότι, το υπουργείο ελέγχεται ότι δεν προσέγγισε όπως ώφειλε αναλυτικά το δίλημμα Collingridge, που επικαλέστηκε, ούτε και τις λύσεις του.  Αν τις αξιολόγησε, ότι έχουν εδραιωθεί, ώφειλε να εναρμονιστεί με την κοινοτική διαδικασία και με προσοχή και μακροχρόνιες διαδικασίες διαβούλευσης, ευαισθητοποίησης και κατάρτισης, ώστε να μπορούν οι ρυθμίσεις να εφαρμοστούν απρόσκοπτα, να την παρακολουθεί και συγχρονιστεί με τ’ αποτελέσματα όταν θα πρόκυπταν.

Ιδιαίτερα εκτιμώντας, ότι μέρος των κοινοτικών θεσμικών ζυμώσεων είναι η εκφρασθείσα βούληση της κοινότητας να προχωρήσει σε οριζόντιες ρυθμίσεις με την έκδοση Κανονισμού, που ήδη έχει προταθεί, Οδηγίας για το ζήτημα της αστικής ευθύνης, και εκτίμηση επιπτώσεων που επίσης βρίσκονται σε στάδιο προτάσεων.

Από μόνες τους οι εξελίξεις αυτές οδηγούν στο συμπέρασμα, ότι η κυβέρνηση προχώρησε σε ρυθμίσεις που δεν εντάσσονται στο πνεύμα για τη δημιουργία ενιαίας εσωτερικής αγοράς, θα προκαλέσουν ερμηνευτικά και εφαρμοστικά προβλήματα και εν τέλει θ’ απαιτηθεί με βεβαιότητα να χωρήσουν νέα μέτρα αλλαγών και ελέγχου της τεχνολογίας, που σύμφωνα με το δίλημμα θα είναι χρονοβόρα και κοστοβόρα και δεν εξυπηρετούν την ασφάλεια δικαίου.

Είναι κρίμα ότι ο Υπουργός δεν ενέκυψε βαθύτερα στις λύσεις του διλήμματος.

Είχε αρχικά την υποχρέωση πριν επιλέξει λύσεις του διλήμματος, επιλογή που δεν φαίνεται σε κάθε περίπτωση να έκανε, να κατανοήσει και εφαρμόσει τις αρχές αξιολόγησης της τεχνολογίας.

Η αξιολόγηση της τεχνολογίας

Η αξιολόγηση της τεχνολογίας είναι μια επιστημονική, διαδραστική, πολιτική και επικοινωνιακή διαδικασία που στοχεύει να συμβάλει στη διαμόρφωση της κοινής και πολιτικής γνώμης σχετικά με τις κοινωνικές πτυχές της επιστήμης και της νέας τεχνολογίας από τη στιγμή που αναπτύχθηκε για πρώτη φορά έως τη στιγμή που είναι δυνητικά αποδεκτή από το κοινό και τις αρχές για περαιτέρω χρήση.  Αλλά και συμβάλλει στην εξέταση των βραχυπρόθεσμων και μακροπρόθεσμων συνεπειών (για παράδειγμα, κοινωνικές, οικονομικές, ηθικές, νομικές) της εφαρμογής της τεχνολογίας».

Ένα χαρακτηριστικό παράδειγμα εφαρμογής της αξιολόγησης της τεχνολογίας εφαρμόστηκε αρχικά στη δεκαετία του 1960 στις Ηνωμένες Πολιτείες, όπου θα επικεντρωθεί στην ανάλυση της σημασίας των «υπερηχητικών μεταφορών, της ρύπανσης του περιβάλλοντος και της ηθικής του γενετικού ελέγχου».

Επίσης, η αξιολόγηση της τεχνολογίας αναγνωρίζει το γεγονός ότι οι επιστήμονες κανονικά δεν είναι εκπαιδευμένοι ηθικολόγοι οι ίδιοι και κατά συνέπεια θα πρέπει να είναι πολύ προσεκτικοί όταν κρίνουν ηθικά μόνοι τους, ή τους συναδέλφους τους, νέα ευρήματα, έργα ή εργασίες σε εξέλιξη. Η ΤΕΧΝΙΚΉ είναι ένα πολύ ευρύ φαινόμενο που περιλαμβάνει επίσης πτυχές όπως «η διάδοση της τεχνολογίας (και η μεταφορά τεχνολογίας), παράγοντες που οδηγούν στην ταχεία αποδοχή της νέας τεχνολογίας και ο ρόλος της τεχνολογίας και της κοινωνίας».

Αυτή η προσέγγιση σε καμιά περίπτωση μπορεί να υποκαθίσταται από το λόγο ενός Υπουργού στη Βουλή.  Αλλά ούτε και από ανυπόληπτες εντελώς και προσχηματικές και μόνο διαδικασίες για ένα τέτοιο θέμα διάρκειας λίγων ημερών.  Η αξιολόγηση της υπόψη τεχνολογίας προϋποθέτει μια παγκόσμια προοπτική και είναι προσανατολισμένη στο μέλλον, όχι αντι-τεχνολογική και πρέπει να γίνεται αντιληπτό ένα τέτοιο έργο, ως μια διεπιστημονική προσέγγιση για την επίλυση ήδη υπαρχόντων προβλημάτων και την πρόληψη πιθανών ζημιών που προκαλούνται από την άκριτη εφαρμογή και την εμπορευματοποίηση των νέων τεχνολογιών.

Ως εκ τούτου, όλα τα αποτελέσματα των μελετών αξιολόγησης της τεχνολογίας πρέπει να δημοσιεύονται και πρέπει να δίνεται ιδιαίτερη προσοχή στην επικοινωνία με τους πολιτικούς ιθύνοντες.

Είναι προφανές, ότι αν επιλεγόταν αυτή η προσέγγιση και οι απαντήσεις στο δίλημμα που επικαλέστηκε ο Υπουργός θα ήταν ευκολότερα, κυρίως όμως θα συνέβαλαν στις προσφορότερες λύσεις και θα άμβλυναν την δεδομένη ήδη δυσπιστία του πολίτη στην ειλικρίνεια των κυβερνώντων ότι υπηρετούν δημοκρατικές αρχές.

Λύσεις, όπως οι θεωρητικές λύσεις που προβάλλουν και θα εξετάζονταν υπό το πρίσμα των πορισμάτων της αξιολόγησης της τεχνολογίας για τη διαμόρφωση των λύσεων στο δίλημμα.

Η Αρχή της Προφύλαξης

Πρώτα η εφαρμογή της «Αρχής της προφύλαξης», όπως ο Adam Thierer την έχει ορίσει ως την πεποίθηση ότι οι νέες καινοτομίες δεν πρέπει να αγκαλιάζονται "έως ότου οι προγραμματιστές τους μπορούν να αποδείξουν ότι δεν θα προκαλέσουν καμία βλάβη σε άτομα, ομάδες, συγκεκριμένες οντότητες, πολιτιστικά πρότυπα ή διάφορους υπάρχοντες νόμους, κανόνες ή παραδόσεις". Εάν δεν το πράξουν, αυτή η καινοτομία θα πρέπει να «απαγορευτεί, να περιοριστεί, να τροποποιηθεί, να απορριφθεί ή να αγνοηθεί».

Είναι γνωστές οι επιφυλάξεις που έχουν διατυπωθεί απέναντι σ’ αυτή την πρώτη λύση και ορισμό.  Ότι δεν πρέπει να εφαρμοστούν, ως ασαφή και προκατειλημμένα ενάντια σε οτιδήποτε νέο επειδή αυξάνει δραστικά το όριο για οτιδήποτε καινοτόμο (ο Αμερικανός φιλόσοφος Μαξ Μορ, έχει πει ότι η Αρχή της Προφύλαξης «είναι πολύ καλή για ένα πράγμα – να σταματήσει την τεχνολογική πρόοδο... όχι επειδή οδηγεί σε κακές κατευθύνσεις, αλλά επειδή δεν οδηγεί σε καμία κατεύθυνση»). Όμως η αρχή της προφύλαξης είναι αρχή του δικαίου και του νομικού πολιτισμού.  Όπως είναι γνωστό, η Διακήρυξη του Ρίο του 1992 για το Περιβάλλον και την Ανάπτυξη ορίζει την αρχή της προφύλαξης ως «Όταν υπάρχουν απειλές σοβαρής ή μη αναστρέψιμης βλάβης, η έλλειψη πλήρους επιστημονικής βεβαιότητας δεν πρέπει να χρησιμοποιείται ως λόγος για την αναβολή οικονομικά αποδοτικών μέτρων για την πρόληψη της υποβάθμισης του περιβάλλοντος».

Έτσι, αντί να θεωρείται ότι δεν επιβάλλει καμία αλλαγή έως ότου προσκομιστεί απόδειξη ασφάλειας, αυτός ο ορισμός της αρχής της προφύλαξης προορίζεται για νόμιμα προστατευτικά μέτρα, προσπαθώντας να αποφευχθεί η επιθυμία των υποστηρικτών μιας τεχνολογίας να καθυστερήσουν τη νομοθεσία έως ότου μπορούν να προσκομιστούν αδιάσειστες αποδείξεις βλάβης.

Επί πλέον στην προκείμενη περίπτωση είναι σημαντικό να λεχθεί ότι , το σύστημα του ελληνικού αστικού και ποινικού δικαίου και άλλα είναι βασισμένο σε αφηρημένους κανόνες δικαίου.  Ο Αστικός μας κώδικας είναι πάντα ένα νεαρό νομοθέτημα παρ’ όλο που διάγει το 77^ο έτος της ηλικίας του προσαρμοζόμενο – με εξαίρεση τη συστηματική προσπάθεια καταστροφής του τα τελευταία χρόνια – όπως ο ιστορικός νομοθέτης (όχι πρόσωπο, αλλά οι εκάστοτε κοινωνικοικονομικοτεχνικονομικές εξελίξεις επιτάσσουν).  Και η φύση των διατάξεών του, ως αφηρημένων κανόνων επιτρέπουν την εφαρμογή τους για κάθε αναδυόμενη κοινωνική, οικονομική και τεχνολογική εξέλιξη.

Ακόμη η αρτιότητα των κανονιστικών ρυθμίσεών του επιτρέπει την συμπλήρωσή τους με ρυθμιστικό, δευτερεύον εκτελεστικό θεσμικό πλαίσιο που μπορεί να ενεργοποιηθεί για τη συμπλήρωση των κανονιστικών διατάξεων.

Η διαδικασία ευφυούς δοκιμής και σφάλματος

Αλλά το Υπουργείο είχε και άλλη λύση, που αγνόησε.

Η λύση του διλήμματος δεν ήταν ακριβώς η αρχή της προφύλαξης, αλλά μάλλον η εφαρμογή της "Ευφυούς Δοκιμής και Σφάλματος", μιας διαδικασίας με την οποία η εξουσία λήψης αποφάσεων παραμένει αποκεντρωμένη, οι αλλαγές είναι διαχειρίσιμες, οι τεχνολογίες και οι υποδομές έχουν σχεδιαστεί για να είναι ευέλικτες και η συνολική διαδικασία είναι προσανατολισμένη στη γρήγορη μάθηση διατηρώντας παράλληλα το πιθανό κόστος όσο το δυνατόν χαμηλότερο.

Ο Collingridge υποστήριξε τη διασφάλιση ότι η καινοτομία συμβαίνει πιο σταδιακά, ώστε να ταιριάζει καλύτερα με το ρυθμό της ανθρώπινης μάθησης και αποφεύγοντας τεχνολογίες των οποίων ο σχεδιασμός ήταν αντίθετος με μια ευφυή διαδικασία δοκιμής και σφάλματος

Το νομοσχέδιο αποτυγχάνει να εφαρμόσει οποιαδήποτε από τις δύο λύσεις ή συνδυασμό τους.  Επί πλέον η αναζήτηση και εφαρμογή οποιασδήποτε άλλης δεν έχει και νόημα, όταν είναι δεδομένη η έλλειψη διάθεσης της κυβέρνησης να κοπιάσει και αναζήτησης της συμμετοχής των πολιτών και των κοινωνικών φορέων.

Η Κυβέρνηση απλά ώφειλε να παρακολουθεί τις εξελίξεις και ζυμώσεις σε κοινοτικό επίπεδο, να συμμετέχει και συνεισφέρει, να ευαισθητοποιεί και ενημερώνει συνεχώς τους πολίτες και τους κοινωνικούς φορείς και όχι ν’ ακολουθήσει την ακραία λύση άκαιρων ρυθμίσεων.  Επί πλέον θα μπορούσε να περιοριστεί στη δημιουργία εκείνων των φορέων που θα είχαν ως αντικείμενο και εντολή την συμμετοχή στις κοινοτικές διεργασίες, όπως λ.χ ένα Παρατηρητήριο ή τη διερεύνηση αξιοποίησης υφιστάμενων Ανεξάρτητων Αρχών, όπως η ΕΕΤΤ, η ΑΑΔΕ, η Επιτροπή Διαφάνειας και μέχρις εκεί μόνο.

Προκαλεί μειδίαμα η παρατήρηση ρυθμίσεων που επιχειρούνται για έξυπνα συμβόλαια, τεχνολογίες blockchain ή η ανάθεση σε φορείς του δημόσιου τομέα της ευθύνης εκπόνησης μελετών αλγοριθμικών επιπτώσεων.