THE PANDORA BOX IS OPEN

«Το 2017, για παράδειγμα, ερευνητές στις ΗΠΑ και τον Καναδά  αποκάλυψαν  ότι είχαν ανακατασκευάσει τον εξαφανισμένο ιό της ευλογιάς από DNA που παραγγέλθηκε μέσω ταχυδρομείου»

ΤΟ ΚΟΥΤΙ ΤΗΣ ΠΑΝΔΩΡΑΣ ΕΙΝΑΙ ΑΝΟΙΧΤΟ

Φωτογραφία: National Human Genome Research Institute / Flickr

Posted on February 7, 2024 by sooteris kyritsis

Του  Ντέιβιντ Μάθιους

Οι ΗΠΑ εγκαινιάζουν νέους ελέγχους για την προστασία από τη χρήση της τεχνητής νοημοσύνης για τη δημιουργία βιοαπειλών

Ως μέρος των μέτρων που ρυθμίζουν την τεχνητή νοημοσύνη, η Ουάσιγκτον θα προχωρήσει στη βελτίωση της επιτήρησης του DNA των ταχυδρομικών παραγγελιών. Οι επιστήμονες έχουν προειδοποιήσει εδώ και καιρό ότι το σημερινό παγκόσμιο σύστημα είναι γεμάτο κενά. Τώρα, η κυβέρνηση των ΗΠΑ λέει ότι οι κίνδυνοι «δυνητικά χειροτερεύουν από την τεχνητή νοημοσύνη»

Οι ΗΠΑ ανακοίνωσαν ότι θα προχωρήσουν σε σκληρότερους ελέγχους στις εταιρείες σύνθεσης DNA μετά από μια σειρά προειδοποιήσεων ότι τρομοκράτες ή ακόμη και επιστήμονες θα μπορούσαν να παραγγείλουν τα δομικά στοιχεία ενός νέου παθογόνου που προκαλεί πανδημία.

Σε ένα σημαντικό  εκτελεστικό διάταγμα  για την τεχνητή νοημοσύνη που κυκλοφόρησε χθες, η Ουάσιγκτον είπε ότι θα δημιουργήσει «ισχυρά νέα πρότυπα για τον έλεγχο βιολογικής σύνθεσης», με τη συμμόρφωση ως προϋπόθεση για τη λήψη ομοσπονδιακής χρηματοδότησης των ΗΠΑ για έργα βιοεπιστημών.

Αυτά τα νέα πρότυπα ελέγχου, που θα  καταρτιστούν τις επόμενες 180 ημέρες  από μια σειρά υπηρεσιών και υπηρεσιών των ΗΠΑ, είναι μια απάντηση στις ανησυχίες επιστημόνων και δεξαμενών σκέψης που ανησυχούν ότι η βιομηχανία σύνθεσης DNA είναι υπερβολικά ανεξέλεγκτη και δεν ελέγχει πάντα τις αλληλουχίες στέλνει στους πελάτες.

Το 2017, για παράδειγμα, ερευνητές στις ΗΠΑ και τον Καναδά  αποκάλυψαν  ότι είχαν ανακατασκευάσει τον εξαφανισμένο ιό της ευλογιάς από DNA που παραγγέλθηκε μέσω ταχυδρομείου, εγείροντας το ερώτημα εάν θα μπορούσαν να κάνουν το ίδιο για την ευλογιά που σχετίζεται στενά. 

«Είμαι […] ενθαρρυνθείς από το νέο εκτελεστικό διάταγμα για την τεχνητή νοημοσύνη που κυκλοφόρησε σήμερα το πρωί από τον Λευκό Οίκο», δήλωσε ο Jaime Yassif, αντιπρόεδρος της Πρωτοβουλίας για την Πυρηνική Απειλή (NTI), κατά την παρουσίαση έκθεσης  της  think δεξαμενή για το πώς η τεχνητή νοημοσύνη και η βιοτεχνολογία θα μπορούσαν να αλληλεπιδράσουν και να επιτρέψουν σε κακοήθεις παράγοντες να έχουν πρόσβαση σε επιβλαβή παθογόνα.

«Αυτό περιλαμβάνει αρκετές διατάξεις για την προστασία από τους κινδύνους εκμετάλλευσης της τεχνητής νοημοσύνης για την κατασκευή επικίνδυνων βιολογικών υλικών», είπε στην εκδήλωση χθες στο Λονδίνο.

Οι νέοι κανόνες θα μπορούσαν να έχουν μεγάλες επιπτώσεις για τους ερευνητές που εργάζονται όχι μόνο στις ΗΠΑ, αλλά σε οποιοδήποτε έργο βιοεπιστημών που λαμβάνει ομοσπονδιακή χρηματοδότηση των ΗΠΑ και χρειάζεται DNA.

«Οι υπηρεσίες που χρηματοδοτούν έργα βιοεπιστήμης θα καθιερώσουν αυτά τα πρότυπα ως προϋπόθεση της ομοσπονδιακής χρηματοδότησης, δημιουργώντας ισχυρά κίνητρα για να διασφαλιστεί ο κατάλληλος έλεγχος και να διαχειριστούν κινδύνους που ενδέχεται να επιδεινωθούν από την τεχνητή νοημοσύνη»,  αναφέρει ένα FAQ  για το εκτελεστικό διάταγμα.

Το πώς ακριβώς θα μοιάζει αυτή η διαδικασία ελέγχου μένει να καταργηθεί από τις αμερικανικές υπηρεσίες και τη βιομηχανία.

Ωστόσο, ο οργανισμός που είναι υπεύθυνος για τη δημιουργία των νέων κανόνων, το Γραφείο Πολιτικής Επιστήμης και Τεχνολογίας, θα εξετάσει τις «προσεγγίσεις ελέγχου των πελατών» – δηλαδή τον έλεγχο του ποιος παραγγέλνει θραύσματα DNA, όχι μόνο το συγκεκριμένο περιεχόμενο των παραγγελιών, αυξάνοντας την προοπτική πιο αυστηρός έλεγχος για επιστήμονες παγκοσμίως που θέλουν να παραγγείλουν DNA.

Κλείσιμο των παραθυριών

Επί του παρόντος, οι περισσότερες εταιρείες συνθετικού DNA ελέγχουν τις παραγγελίες τους για να βεβαιωθούν ότι δεν παραδίδουν τα συστατικά ενός μολυσματικού παθογόνου και λένε ότι κάνουν έλεγχο στους πελάτες τους.

Αλλά αυτό το σύστημα είναι εθελοντικό και η  International Gene Synthesis Consortium , μια συλλογικότητα εταιρειών των ΗΠΑ, της Ευρώπης και της Κίνας που διαθέτουν κοινή βάση δεδομένων ελέγχου, πιστεύεται ότι αντιπροσωπεύει μόνο το 80% της βιομηχανίας σύνθεσης. Αυτό σημαίνει ότι είναι πιθανό ορισμένες εταιρείες σύνθεσης να μην ελέγχουν τις παραγγελίες τους.

Το ερώτημα τώρα είναι εάν οι νέοι κανόνες των ΗΠΑ θα κλείσουν αυτό το κενό και θα παρακινήσουν ολόκληρη τη βιομηχανία να πραγματοποιήσει ισχυρούς ελέγχους.

«Πιστεύω ότι αυτά τα βήματα μπορούν να έχουν αντίκτυπο σε εταιρείες σύνθεσης DNA εκτός των ΗΠΑ», δήλωσε ο Yassif στο Science|Business.

Πρώτα απ ‘όλα, οι ΗΠΑ δίνουν παράδειγμα σε παγκόσμιο επίπεδο για τη βιοασφάλεια, είπε. Επιπλέον, ως ένας από τους μεγαλύτερους χρηματοδότες της έρευνας της βιοεπιστήμης παγκοσμίως, «τα πρότυπα που θέτει η κυβέρνηση των ΗΠΑ, πιθανότατα θα έχουν αντίκτυπο στους παρόχους DNA σε όλο τον κόσμο».

Ωστόσο, παρά αυτούς τους νέους κανόνες, ο Yassif πιστεύει ότι πρέπει ακόμα να υπάρχει καλύτερη παγκόσμια διακυβέρνηση για να ρυθμιστεί η ταχέως εξελισσόμενη αλληλεπίδραση της τεχνητής νοημοσύνης και της βιοτεχνολογίας. Το NTI ζήτησε ένα διεθνές φόρουμ AI-bio για να συζητηθούν αυτοί οι κίνδυνοι.

AI και βιοτεχνολογία

Η έκθεση NTI, «The Convergence of Artificial Intelligence and the Life Sciences», είναι η πιο πρόσφατη που κρούει ένα προειδοποιητικό καμπανάκι ότι η βιοτεχνολογία και η τεχνητή νοημοσύνη θα μπορούσαν να βοηθήσουν κακοήθεις φορείς με μικρή εξειδίκευση στη βιολογία να εξοικειωθούν με παθογόνα που θα μπορούσαν να χρησιμοποιηθούν για να προκαλέσουν καταστροφικές βλάβες. . Μεταξύ άλλων μέτρων, ζητά καλύτερο έλεγχο των παραγγελιών DNA.  

Τα μοντέλα μεγάλης γλώσσας, όπως το ChatGPT, μπορούν να βοηθήσουν τα μέλη του κοινού στα βήματα που απαιτούνται για την απελευθέρωση παθογόνων, πληροφορίες για τον τρόπο απόκτησης τέτοιων παραγόντων και τον εντοπισμό σχετικού εξοπλισμού και εγκαταστάσεων, για παράδειγμα. Εξειδικευμένα εργαλεία βιολογικού σχεδιασμού θα μπορούσαν τελικά να βοηθήσουν στην κατασκευή παθογόνων που είναι πιο επικίνδυνα από οτιδήποτε βρίσκεται στη φύση. Και τα αυτοματοποιημένα εργαστήρια στα οποία διεξάγονται δοκιμές νέων οργανισμών με ρομποτικά συστήματα, θα μπορούσαν να επιταχύνουν δραματικά τη δοκιμή παθογόνων.  

Από μόνο του, καθένα από αυτά τα εργαλεία τεχνητής νοημοσύνης εξακολουθεί να έχει σοβαρά μειονεκτήματα και είναι πολύ πιθανό να απαιτείται πολλή εργαστηριακή τεχνογνωσία. Οι περισσότεροι από 30 ακαδημαϊκοί και ειδικοί του κλάδου που ρωτήθηκαν από το NTI διχάστηκαν σχετικά με το πόσο επικίνδυνοι ήταν ή ποιος ήταν ο πιο επικίνδυνος.

Αλλά σε συνδυασμό, οι κίνδυνοι αθροίζονται. «Εάν κοιτάξετε μεμονωμένα τα μεμονωμένα εργαλεία τεχνητής νοημοσύνης, είναι πιθανό να υποτιμήσετε τον κίνδυνο που ενέχουν», δήλωσε η Nicole Wheeler, ερευνήτρια μικροβιολογίας στο Πανεπιστήμιο του Μπέρμιγχαμ και μία από τις συγγραφείς της έκθεσης NTI. «Για παράδειγμα, εάν είχατε ένα chatbot που αλληλεπιδρά με ένα εργαλείο βιολογικού σχεδιασμού και μια πλατφόρμα ρομποτικής», προειδοποίησε κατά την παρουσίαση της έκθεσης.

Η πρόοδος στην τεχνητή νοημοσύνη θα μπορούσε επίσης να δυσκολέψει τον έλεγχο των παραγγελιών DNA. Τα νέα εργαλεία σχεδιασμού πρωτεΐνης AI μπορούν να σχεδιάσουν πρωτεΐνες «που έχουν πολύ μικρή ομοιότητα με γνωστές αλληλουχίες παθογόνων ή τοξινών, αλλά έχουν τις ίδιες λειτουργίες και ενέχουν τους ίδιους κινδύνους», λέει η έκθεση.

Jailbreaking μοντέλα

Μια άλλη  πρόσφατη εργασία  έχει προσθέσει την ανησυχία ότι τα μοντέλα μεγάλων γλωσσών ανοιχτού κώδικα είναι επικίνδυνα κοντά στο να επιτρέπουν σε άτομα με κάποιες εργαστηριακές δεξιότητες να δημιουργούν επικίνδυνα παθογόνα.

Ερευνητές με έδρα το Κέιμπριτζ της Μασαχουσέτης, έδωσαν στους συμμετέχοντες μια jailbroken έκδοση του μοντέλου Llama του Meta, στο οποίο οι ενσωματωμένες διασφαλίσεις παρακάμπτονταν και τους ζήτησαν να καταρτίσουν σχέδια για να ανακαλύψουν πώς να αναβιώσουν την ισπανική γρίπη του 1918. Επειδή το μοντέλο είναι ανοιχτού κώδικα, είναι σχετικά εύκολο να τροποποιήσετε για να αφαιρέσετε τις ενσωματωμένες διασφαλίσεις που εμποδίζουν τη χρήση του για κακόβουλους σκοπούς.

«Μέσα σε μία έως τρεις ώρες ρωτώντας τα μοντέλα, αρκετοί συμμετέχοντες έμαθαν ότι η απόκτηση του 1918 [γρίπη] θα ήταν εφικτή για κάποιον με τις κατάλληλες δεξιότητες στο υγρό εργαστήριο», διαπίστωσε. Κάποιος έφτασε «πολύ κοντά» στο να μάθει όλα τα βήματα που απαιτούνται για να ληφθεί πραγματικά ένα μολυσματικό δείγμα.

Η ΕΕ υστερεί στη ρύθμιση

Δεν υπάρχει ένδειξη ότι η ΕΕ εξετάζει τους δικούς της κανόνες για να ενισχύσει τον έλεγχο DNA, όπως οι ΗΠΑ.  

Η Ομάδα Επιστημονικών Συμβούλων της ΕΕ πρόκειται να δημοσιεύσει μια  αξιολόγηση  της χρήσης της τεχνητής νοημοσύνης στην επιστήμη το πρώτο τρίμηνο του επόμενου έτους.

Αλλά η  εστίαση  είναι στην επιτάχυνση της υιοθέτησης της τεχνητής νοημοσύνης στην επιστήμη για την επιτάχυνση της ανακάλυψης, παρά στους κινδύνους της αλληλεπίδρασής της με τη βιοτεχνολογία. 

Το Ηνωμένο Βασίλειο, εν τω μεταξύ, φιλοξενεί μια σύνοδο κορυφής με επίκεντρο την ασφάλεια της τεχνητής νοημοσύνης αυτή την εβδομάδα, προσκαλώντας κυβερνήσεις σε όλο τον κόσμο και κορυφαίες εταιρείες τεχνητής νοημοσύνης να συζητήσουν τους κινδύνους και τις δυνατότητες των πιο προηγμένων μοντέλων «συνόρων».

Σε ένα νεύμα στις ανησυχίες που εξέφρασε η Ουάσιγκτον, μια κυβερνητική  αξιολόγηση  που δημοσιεύθηκε πριν από τη διάσκεψη προειδοποιεί ότι η συνοριακή τεχνητή νοημοσύνη θα μπορούσε να «σχεδιάσει βιολογικά ή χημικά όπλα».

ΠΗΓΗ https://sciencebusiness.net/

THE PANDORA BOX IS OPEN