L'IA superintelligente sarà impossibile da controllare. Notizie dalla biblioteca tecnica gratuita

NOVITA' DI SCIENZA E TECNOLOGIA, NOVITA' IN ELETTRONICA
Libreria tecnica gratuita / feed di notizie

Sarà impossibile controllare l'IA superintelligente

29.09.2022

L'idea di rovesciare l'umanità con l'intelligenza artificiale è stata discussa per decenni e nel 2021 gli scienziati hanno emesso il loro verdetto sulla possibilità di controllare la superintelligenza dei computer di alto livello.

Il problema è che per controllare una superintelligenza che va ben oltre la comprensione umana, sarà necessario simulare questa superintelligenza, che può essere analizzata e controllata. Ma se le persone non sono in grado di capirlo, allora è impossibile creare una simulazione del genere.

Regole come "non ferire le persone" non possono essere stabilite se le persone non capiscono quali scenari ha da offrire l'IA. Una volta che un sistema informatico funziona a un livello superiore alle capacità dei nostri programmatori, non è più possibile impostare limiti.

La superintelligenza presenta un problema fondamentalmente diverso da quelli solitamente studiati sotto lo slogan di "etica robotica", ciò è dovuto al fatto che la superintelligenza è sfaccettata e, quindi, potenzialmente in grado di mobilitare una varietà di risorse per raggiungere obiettivi potenzialmente incomprensibili agli esseri umani, per non parlare del fatto che possano essere controllati.

Parte del ragionamento della squadra derivava dal problema di arresto posto da Alan Turing nel 1936. Il problema è sapere se il programma per computer produrrà un output e una risposta (quindi si fermerà) o semplicemente gira intorno cercando di trovarlo.

Gli studiosi hanno notato, come Turing ha dimostrato con matematica intelligente, mentre potremmo saperlo per alcuni programmi specifici, è logicamente impossibile trovare un modo che ci permetta di saperlo per ogni potenziale programma che potrebbe mai essere scritto. Questo ci riporta all'IA, che, in uno stato superintelligente, potrebbe contenere contemporaneamente nella sua memoria tutti i possibili programmi per computer.

Secondo gli scienziati, qualsiasi programma scritto per impedire che l'IA danneggi gli esseri umani e distrugga il mondo, ad esempio, può decidere (e fermare) se è matematicamente impossibile essere comunque assolutamente sicuri, il che significa che non può essere contenuto . Gli scienziati hanno affermato che l'alternativa all'insegnare all'IA un po' di etica e dirle di non distruggere il mondo - cosa di cui nessun algoritmo può essere assolutamente sicuro - è limitare le capacità della superintelligenza.

"Lo studio ha anche respinto questa idea, suggerendo che limiterebbe le possibilità dell'IA. L'argomento è che se non la useremo per risolvere problemi al di là delle capacità umane, allora perché crearla? Se ci muoviamo avanti con l'IA "potremmo non sapere nemmeno quando apparirà una superintelligenza al di fuori del nostro controllo, tale è la sua incomprensibilità. Ciò significa che dobbiamo iniziare a porre domande serie sulla direzione in cui ci stiamo muovendo", hanno osservato gli scienziati.

<< Indietro: La curcumina previene la perdita della vista 29.09.2022

>> Avanti: Lievito trapiantato con geni umani 28.09.2022

Ultime notizie di scienza e tecnologia, nuova elettronica:

Trappola d'aria per insetti 01.05.2024

L’agricoltura è uno dei settori chiave dell’economia e il controllo dei parassiti è parte integrante di questo processo. Un team di scienziati dell’Indian Council of Agricultural Research-Central Potato Research Institute (ICAR-CPRI), Shimla, ha trovato una soluzione innovativa a questo problema: una trappola per insetti alimentata dal vento. Questo dispositivo risolve le carenze dei metodi tradizionali di controllo dei parassiti fornendo dati sulla popolazione di insetti in tempo reale. La trappola è alimentata interamente dall'energia eolica, il che la rende una soluzione ecologica che non richiede energia. Il suo design unico consente il monitoraggio sia degli insetti dannosi che utili, fornendo una panoramica completa della popolazione in qualsiasi area agricola. “Valutando i parassiti target al momento giusto, possiamo adottare le misure necessarie per controllare sia i parassiti che le malattie”, afferma Kapil ... >>

La minaccia dei detriti spaziali al campo magnetico terrestre 01.05.2024

Sempre più spesso sentiamo parlare di un aumento della quantità di detriti spaziali che circondano il nostro pianeta. Tuttavia, non sono solo i satelliti e i veicoli spaziali attivi a contribuire a questo problema, ma anche i detriti di vecchie missioni. Il crescente numero di satelliti lanciati da aziende come SpaceX crea non solo opportunità per lo sviluppo di Internet, ma anche gravi minacce alla sicurezza spaziale. Gli esperti stanno ora rivolgendo la loro attenzione alle potenziali implicazioni per il campo magnetico terrestre. Il dottor Jonathan McDowell del Centro di astrofisica di Harvard-Smithsonian sottolinea che le aziende stanno rapidamente implementando costellazioni di satelliti e il numero di satelliti potrebbe crescere fino a 100 nel prossimo decennio. Il rapido sviluppo di queste armate cosmiche di satelliti può portare alla contaminazione dell'ambiente plasmatico terrestre con detriti pericolosi e una minaccia per la stabilità della magnetosfera. I detriti metallici dei razzi usati possono disturbare la ionosfera e la magnetosfera. Entrambi questi sistemi svolgono un ruolo chiave nella protezione e nel mantenimento dell'atmosfera ... >>

Solidificazione di sostanze sfuse 30.04.2024

Ci sono parecchi misteri nel mondo della scienza e uno di questi è lo strano comportamento dei materiali sfusi. Possono comportarsi come solidi ma improvvisamente trasformarsi in un liquido fluido. Questo fenomeno ha attirato l'attenzione di molti ricercatori e forse ci stiamo finalmente avvicinando alla soluzione di questo mistero. Immagina la sabbia in una clessidra. Di solito scorre liberamente, ma in alcuni casi le sue particelle iniziano a rimanere bloccate, trasformandosi da liquido a solido. Questa transizione ha importanti implicazioni per molti settori, dalla produzione di farmaci all’edilizia. Ricercatori statunitensi hanno tentato di descrivere questo fenomeno e di avvicinarsi alla sua comprensione. Nello studio, gli scienziati hanno condotto simulazioni in laboratorio utilizzando i dati provenienti da sacchetti di perle di polistirolo. Hanno scoperto che le vibrazioni all’interno di questi insiemi avevano frequenze specifiche, il che significa che solo alcuni tipi di vibrazioni potevano viaggiare attraverso il materiale. Ricevuto ... >>

Stimolatore cerebrale impiantato 30.04.2024

Negli ultimi anni la ricerca scientifica nel campo delle neurotecnologie ha fatto enormi progressi, aprendo nuovi orizzonti per la cura di diversi disturbi psichiatrici e neurologici. Uno dei risultati più significativi è stata la creazione del più piccolo stimolatore cerebrale impiantato, presentato da un laboratorio della Rice University. Chiamato Digitally Programmable Over-brain Therapeutic (DOT), questo dispositivo innovativo promette di rivoluzionare i trattamenti fornendo maggiore autonomia e accessibilità ai pazienti. L'impianto, sviluppato in collaborazione con Motif Neurotech e medici, introduce un approccio innovativo alla stimolazione cerebrale. Si alimenta tramite un trasmettitore esterno che sfrutta il trasferimento di potenza magnetoelettrico, eliminando la necessità di cavi e batterie di grandi dimensioni tipiche delle tecnologie esistenti. Ciò rende la procedura meno invasiva e offre maggiori opportunità per migliorare la qualità della vita dei pazienti. Oltre al suo utilizzo nel trattamento, resiste ... >>

La percezione del tempo dipende da ciò che si guarda 29.04.2024

La ricerca nel campo della psicologia del tempo continua a sorprenderci con i suoi risultati. Le recenti scoperte degli scienziati della George Mason University (USA) si sono rivelate davvero notevoli: hanno scoperto che ciò che guardiamo può influenzare notevolmente il nostro senso del tempo. Durante l'esperimento, 52 partecipanti hanno effettuato una serie di test, stimando la durata della visione di varie immagini. I risultati sono stati sorprendenti: la dimensione e il dettaglio delle immagini hanno avuto un impatto significativo sulla percezione del tempo. Scene più grandi e meno disordinate creavano l'illusione del tempo che rallenta, mentre le immagini più piccole e più movimentate davano la sensazione che il tempo accelerasse. I ricercatori suggeriscono che il disordine visivo o il sovraccarico di dettagli possono rendere difficile la percezione del mondo che ci circonda, il che a sua volta può portare a una percezione più rapida del tempo. Pertanto, è stato dimostrato che la nostra percezione del tempo è strettamente correlata a ciò che guardiamo. Più grandi e più piccoli ... >>

Notizie casuali dall'Archivio

Il rivestimento antiriflesso migliora l'efficienza dei pannelli solari 20.05.2014

Gli scienziati britannici hanno sviluppato un modo per sbarazzarsi del riverbero dei pannelli solari e aumentarne l'efficienza grazie a un migliore assorbimento della luce.

I pannelli solari tradizionali sono caratterizzati dalla loro capacità di generare abbagliamento intenso. I ricercatori della Loughborough University (Regno Unito) sono stati in grado di sviluppare un rivestimento antiriflesso multistrato che riduce il riflesso della luce dei pannelli fotovoltaici e, di conseguenza, ne aumenta l'efficienza.

Gli scienziati hanno rivestito i pannelli solari con strati di biossido di silicio e ossido di zirconio. Il nuovo rivestimento è resistente all'abrasione e ai graffi. Grazie all'uso della composizione, la potenza di uscita della centrale solare e l'efficienza di conversione dell'energia solare in energia elettrica sono aumentate.

Vedi completo Archivio di notizie scientifiche e tecnologiche, nuova elettronica

Tutte le lingue di questa pagina

Homepage | Biblioteca | Articoli | Mappa del sito | Recensioni del sito