Be careful what to maximize in an AI (EN - CAST) Cuidado con lo que maximiza en una IA

in Project HOPElast month (edited)

Be careful what to maximize in an AI (EN - CAST) Cuidado con lo que maximizar en una IA



Souce Souce


You know the paradox of the clip maximizer, this thought experiment was exposed by the Swedish philosopher Nick Bostróm in 2003, to illustrate the risk of programming an artificial intelligence without including parameters such as ethics, Bostróm proposed a very near future in which the Managers of a company dedicated to the manufacture of harmless clips, decide to entrust the management of all production to an artificial intelligence AI, with only one objective to maximize the production of clips.


Conocéis la paradoja del maximizador de clips, este experimento mental fue expuesto por el filósofo sueco Nick Bostróm en 2003, para ilustrar el riesgo de programar una inteligencia artificial sin incluir parámetros como el de la ética, Bostróm planteó un futuro muy cercano en el que los gerentes de una empresa dedicada a la fabricación de inofensivos clips, deciden encargar la gestión de toda la producción a una inteligencia artificial IA, con sólo un único objetivo maximizar la producción de clips.




Souce


The AI ​​will understand that this is at whatever cost and would begin to automate all the available functions of the factory, removing humans from the control of the factory since if a human turned it off it would not be able to fulfill its objective of maximizing clips, then artificial intelligence would try to monopolize all the necessary resources in the country to manufacture clips, such as metal and energy, resources that are also necessary for other things such as building houses and giving electricity to humans, something that for the AI ​​would be a waste useless so the AI ​​would come to the logical conclusion that if it wants to control the resources it needs to maximize production, it must first get rid of humans and once it manages to disrupt human resistance, it would begin to transform all matter on the planet into clips, including the bodies of surviving humans, as our bodies have some iron in our blood and our fat and tissues can n be useful for the operation of clip-making machines.


La AI entenderá que esto es a costa de lo que sea y comenzaría a automatizar todas las funciones disponibles de la fábrica, apartando los humanos del control de la factoría ya que si un humano la apagará no podría cumplir con su objetivo de maximizar clips, después la inteligencia artificial intentaría acaparar todos los recursos necesarios en el país para fabricar clips, como puede ser el metal y la energía, recursos que son necesarios también para otras cosas como construir casas y dar electricidad a los humanos algo que para la IA sería un despilfarro inútil por lo que la IA llegaría a la conclusión lógica de que si quiere controlar los recursos que necesita para maximizar la producción, debe deshacerse antes de los humanos y una vez que consiga desbaratar la resistencia humana, comenzaría a transformar toda la materia del planeta en clips, incluidos los cuerpos de los humanos supervivientes, ya que nuestros cuerpos tenemos algo de hierro en la sangre y nuestra grasa y tejidos pueden ser útiles para el funcionamiento de las máquinas productoras de clips.




Souce


There would come a time when the entire planet would be dead, it would be a world of clips and artificial intelligence would then see it necessary to maximize production by jumping to the moon and then to the rest of the planets and beyond, ultimately transforming all the matter in the universe into clips or machines to manufacture, the moral efficiency alone is not enough when programming artificial intelligence, other parameters such as ethics, AIs, artificial intelligences can be a revolution and change our world for the better, but you have to be careful with them, as with any other new technology, because if we cannot end very badly, who knows, perhaps it is possible that in the future some extraterrestrial civilization that we meet is actually an AI Out of control.


Llegaría un momento en que todo el planeta estaría muerto sería un mundo de clips y la inteligencia artificial vería entonces necesario maximizar la producción saltando a la luna y después al resto de planetas y más allá transformando en última instancia toda la materia del universo en clips o máquinas para fabricar, los moraleja la eficiencia por sí sola no es suficiente a la hora de programar una inteligencia artificial hay que tener en cuenta otros parámetros como la ética, las IAs, las inteligencias artificiales pueden suponer una revolución y cambiar nuestro mundo para bien, pero hay que tener cuidado con ellas, como con cualquier otra nueva tecnología, porque si no podemos acabar muy mal, quién sabe quizás es posible que en el futuro alguna civilización extraterrestre que nos encontremos sea en realidad una IA Fuera de control.






source / fuente









Thank you for visiting my blog. If you like posts about #science, #planet, #politics, #rights #crypto, #traveling and discovering secrets and beauties of the #universe, feel free to Follow me as these are the topics I write about the most. Have a wonderful day and stay on this great platform :) :)


Gracias por visitar mi blog. Si te gustan las publicaciones sobre #ciencia, #planeta, #politica, #derechos #crypto, #traveling y descubriendo secretos y bellezas del #universo, siéntete libre de seguirme, ya que estos son los temas sobre los que más escribo. ¡Tenga un día maravilloso y siga en esta gran plataforma :) :)



Sort:  

Yay! 🤗
Your post has been boosted with Ecency Points.
Continue earning Points just by using https://ecency.com, every action is rewarded (being online, posting, commenting, reblog, vote and more).

Support Ecency, check our proposal:
Ecency: https://ecency.com/proposals/141
Hivesigner: Vote for Proposal

This is a topic that inspires a lot of debate. We have read many interesting things about AI, it certainly has great potential, but certainly a machine lacking feelings and logical proportions of ethics would only have as a mission to fulfill its purpose, which can be dangerous if it is at all costs.

That's right, there is a lot to discuss, all those new things are emergent systems and no one can control an emergent system! regards!! Thank you!

It is looks like the borgs in Start Trek.

Yes, that's right, you have to be careful !!