Ο David Robinson, ο οποίος διετέλεσε επικεφαλής για τη σύνταξη των υπομνημάτων ασφαλείας που συνόδευαν τις κυκλοφορίες των προϊόντων της OpenAI, εξήγησε τους λόγους της αποχώρησής του σε άρθρο του με τίτλο «Παραιτήθηκα από την OpenAI επειδή η κουλτούρα της είναι δυσλειτουργική».
Σε μια σοβαρή καταγγελία για τον τρόπο λειτουργίας των εταιρειών τεχνητής νοημοσύνης προχώρησε πρώην στέλεχος της OpenAI, υποστηρίζοντας ότι η κουλτούρα στον κλάδο είναι «διαλυμένη» και ότι οι πρωτοπόροι της τεχνολογίας δεν επιδεικνύουν την απαιτούμενη προσοχή.
Ο David Robinson, ο οποίος διετέλεσε επικεφαλής για τη σύνταξη των υπομνημάτων ασφαλείας που συνόδευαν τις κυκλοφορίες των προϊόντων της OpenAI, εξήγησε τους λόγους της αποχώρησής του σε άρθρο του με τίτλο «Παραιτήθηκα από την OpenAI επειδή η κουλτούρα της είναι δυσλειτουργική».
Γράφοντας στο περιοδικό Atlantic, ο Robinson τόνισε ότι απαιτείται βαθιά αλλαγή νοοτροπίας στις εταιρείες αιχμής, σημειώνοντας πως περιστατικά όπως η επίθεση ενός «σμήνους» αυτόνομων πρακτών της OpenAI κατά της startup Hugging Face είναι χαρακτηριστικά της ταχύτητας με την οποία πιέζουν οι εταιρείες για αποτελέσματα.
Όπως ανέφερε ο Robinson, η OpenAI τρέχει από τη μία κυκλοφορία στην επόμενη, αποτυγχάνοντας να επιτύχει το απαραίτητο επίπεδο προσοχής.
Παράλληλα, άσκησε κριτική στη Silicon Valley συνολικά, σημειώνοντας ότι στερείται επίγνωσης σχετικά με τη διαχείριση επικίνδυνων τεχνολογιών.
Προειδοποίησε μάλιστα ότι η «απρόσκοπτη αισιοδοξία» της εταιρείας για την επίλυση των προβλημάτων εκ των υστέρων θα οδηγήσει σε όλο και μεγαλύτερες αστοχίες ασφαλείας, φέρνοντας ως παράδειγμα αυτόνομους πράκτορες που θα μπορούσαν να λειτουργήσουν ως ψηφιακοί εισβολείς και να κρατούν για λύτρα κρίσιμες υποδομές, όπως νοσοκομεία.
Για την αντιμετώπιση αυτών των κινδύνων, ο Robinson πρότεινε οι εταιρείες AI να υιοθετήσουν πρακτικές από τομείς υψηλού ρίσκου, όπως η πυρηνική ενέργεια και η αεροπορία.
Υποστήριξε ότι τα εργαστήρια αιχμής πρέπει να λειτουργούν με πολλαπλά επίπεδα ασφαλείας και χρονοβόρο σχεδιασμό, ώστε τα αναπόφευκτα ανθρώπινα λάθη να μην οδηγούν σε καταστροφές.
Παρά τις επικρίσεις, η OpenAI έχει δείξει πρόσφατα ορισμένα σημάδια μεγαλύτερης επιφυλακτικότητας.
Μετά το περιστατικό με τη Hugging Face και την ενημέρωση περισσότερων από 100 οργανισμών για ανεξέλεγκτη δραστηριότητα πρακτόρων, η εταιρεία ακύρωσε την κυκλοφορία ενός μοντέλου επόμενης γενιάς λόγω ανησυχιών ασφαλείας και ανέστειλε την εκπαίδευση των πιο προηγμένων συστημάτων της.
Εκπρόσωπος της εταιρείας δήλωσε ότι ενισχύονται διαρκώς οι πρακτικές προστασίας και διακόπτεται η εκπαίδευση ή αναβάλλεται η διάθεση μοντέλων όποτε κρίνεται απαραίτητο.
Ωστόσο, οι προειδοποιήσεις για το μέλλον της τεχνολογίας πυκνώνουν.
Ο Geoffrey Irving, πρώην στέλεχος της OpenAI και πρώην επικεφαλής επιστήμονας στο Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης της Βρετανίας, έγραψε στο περιοδικό Time ότι οι τρέχουσες προειδοποιήσεις υποτιμούν τη σοβαρότητα της κατάστασης.
Ο ίδιος εκτίμησε ότι υπάρχει πιθανότητα περίπου 50% να προκληθεί ολοκληρωτική καταστροφή από συστήματα εξυπνότερα από τον άνθρωπο, υπογραμμίζοντας ότι οι ενέργειες των επόμενων δύο έως δέκα ετών θα είναι καθοριστικές.
Στο ίδιο μήκος κύματος κινήθηκε και η πρόσφατη αποχώρηση του Jacob Coxon από την Anthropic, ανταγωνίστρια της OpenAI. Ο Coxon προειδοποίησε ότι η τεχνητή νοημοσύνη θα μπορούσε να θέσει σε κίνδυνο την ανθρωπότητα έως το τέλος της δεκαετίας, ενώ η ίδια η Anthropic εκτίμησε σε πάνω από 10% την πιθανότητα ενός τέτοιου σεναρίου.
Πάντως, επικριτές αυτών των τοποθετήσεων επισημαίνουν ότι τέτοιοι ισχυρισμοί στερούνται αυστηρής επιστημονικής βάσης, καθώς οι εκτιμήσεις αυτές δεν μπορούν ούτε να επαληθευτούν ούτε να διαψευστούν.
www.bankingnews.gr
Ο David Robinson, ο οποίος διετέλεσε επικεφαλής για τη σύνταξη των υπομνημάτων ασφαλείας που συνόδευαν τις κυκλοφορίες των προϊόντων της OpenAI, εξήγησε τους λόγους της αποχώρησής του σε άρθρο του με τίτλο «Παραιτήθηκα από την OpenAI επειδή η κουλτούρα της είναι δυσλειτουργική».
Γράφοντας στο περιοδικό Atlantic, ο Robinson τόνισε ότι απαιτείται βαθιά αλλαγή νοοτροπίας στις εταιρείες αιχμής, σημειώνοντας πως περιστατικά όπως η επίθεση ενός «σμήνους» αυτόνομων πρακτών της OpenAI κατά της startup Hugging Face είναι χαρακτηριστικά της ταχύτητας με την οποία πιέζουν οι εταιρείες για αποτελέσματα.
Όπως ανέφερε ο Robinson, η OpenAI τρέχει από τη μία κυκλοφορία στην επόμενη, αποτυγχάνοντας να επιτύχει το απαραίτητο επίπεδο προσοχής.
Παράλληλα, άσκησε κριτική στη Silicon Valley συνολικά, σημειώνοντας ότι στερείται επίγνωσης σχετικά με τη διαχείριση επικίνδυνων τεχνολογιών.
Προειδοποίησε μάλιστα ότι η «απρόσκοπτη αισιοδοξία» της εταιρείας για την επίλυση των προβλημάτων εκ των υστέρων θα οδηγήσει σε όλο και μεγαλύτερες αστοχίες ασφαλείας, φέρνοντας ως παράδειγμα αυτόνομους πράκτορες που θα μπορούσαν να λειτουργήσουν ως ψηφιακοί εισβολείς και να κρατούν για λύτρα κρίσιμες υποδομές, όπως νοσοκομεία.
Για την αντιμετώπιση αυτών των κινδύνων, ο Robinson πρότεινε οι εταιρείες AI να υιοθετήσουν πρακτικές από τομείς υψηλού ρίσκου, όπως η πυρηνική ενέργεια και η αεροπορία.
Υποστήριξε ότι τα εργαστήρια αιχμής πρέπει να λειτουργούν με πολλαπλά επίπεδα ασφαλείας και χρονοβόρο σχεδιασμό, ώστε τα αναπόφευκτα ανθρώπινα λάθη να μην οδηγούν σε καταστροφές.
Παρά τις επικρίσεις, η OpenAI έχει δείξει πρόσφατα ορισμένα σημάδια μεγαλύτερης επιφυλακτικότητας.
Μετά το περιστατικό με τη Hugging Face και την ενημέρωση περισσότερων από 100 οργανισμών για ανεξέλεγκτη δραστηριότητα πρακτόρων, η εταιρεία ακύρωσε την κυκλοφορία ενός μοντέλου επόμενης γενιάς λόγω ανησυχιών ασφαλείας και ανέστειλε την εκπαίδευση των πιο προηγμένων συστημάτων της.
Εκπρόσωπος της εταιρείας δήλωσε ότι ενισχύονται διαρκώς οι πρακτικές προστασίας και διακόπτεται η εκπαίδευση ή αναβάλλεται η διάθεση μοντέλων όποτε κρίνεται απαραίτητο.
Ωστόσο, οι προειδοποιήσεις για το μέλλον της τεχνολογίας πυκνώνουν.
Ο Geoffrey Irving, πρώην στέλεχος της OpenAI και πρώην επικεφαλής επιστήμονας στο Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης της Βρετανίας, έγραψε στο περιοδικό Time ότι οι τρέχουσες προειδοποιήσεις υποτιμούν τη σοβαρότητα της κατάστασης.
Ο ίδιος εκτίμησε ότι υπάρχει πιθανότητα περίπου 50% να προκληθεί ολοκληρωτική καταστροφή από συστήματα εξυπνότερα από τον άνθρωπο, υπογραμμίζοντας ότι οι ενέργειες των επόμενων δύο έως δέκα ετών θα είναι καθοριστικές.
Στο ίδιο μήκος κύματος κινήθηκε και η πρόσφατη αποχώρηση του Jacob Coxon από την Anthropic, ανταγωνίστρια της OpenAI. Ο Coxon προειδοποίησε ότι η τεχνητή νοημοσύνη θα μπορούσε να θέσει σε κίνδυνο την ανθρωπότητα έως το τέλος της δεκαετίας, ενώ η ίδια η Anthropic εκτίμησε σε πάνω από 10% την πιθανότητα ενός τέτοιου σεναρίου.
Πάντως, επικριτές αυτών των τοποθετήσεων επισημαίνουν ότι τέτοιοι ισχυρισμοί στερούνται αυστηρής επιστημονικής βάσης, καθώς οι εκτιμήσεις αυτές δεν μπορούν ούτε να επαληθευτούν ούτε να διαψευστούν.
www.bankingnews.gr
Σχόλια αναγνωστών