{"id":843,"date":"2024-06-13T09:21:31","date_gmt":"2024-06-13T07:21:31","guid":{"rendered":"https:\/\/www.kehrwasser.com\/blog\/?p=843"},"modified":"2024-06-13T17:15:40","modified_gmt":"2024-06-13T15:15:40","slug":"weltuntergangsszenarien-durch-kuenstliche-intelligenz-hoffnung-und-handlungsbedarf","status":"publish","type":"post","link":"https:\/\/www.kehrwasser.com\/blog\/2024\/06\/13\/weltuntergangsszenarien-durch-kuenstliche-intelligenz-hoffnung-und-handlungsbedarf\/","title":{"rendered":"Weltuntergangsszenarien durch k\u00fcnstliche Intelligenz: Hoffnung und Handlungsbedarf"},"content":{"rendered":"<p class=\"has-drop-cap\">Wir begehen wahrscheinlich einen Denkfehler beim Ersinnen m\u00f6glicher Weltuntergangsszenarien im Zusammenhang mit K\u00fcnstlicher Intelligenz (KI). In dem Artikel <em>&#8222;Advanced Artificial Agents Intervene in the Provision of Reward&#8220;<\/em> argumentieren Michael K. Cohen, Marcus Hutter und Michael A. Osborne, dass die Probleme beginnen, wenn wir anfangen, Belohnungssysteme in k\u00fcnstliche Agenten einzubauen. In diesem Artikel werde ich teilweise ihrer These zustimmen und behaupten, dass bestimmte Methoden der Integration von Belohnungsmechanismen in KI-Algorithmen problematisch sein k\u00f6nnen. Au\u00dferdem werde ich auf einige \u00fcbersehene Aspekte des Bewusstseins und des Lebens im Allgemeinen hinweisen, die diesen d\u00fcsteren Prognosen widersprechen.<\/p>\n<h4 class=\"wp-block-heading\">Analoge Argumente und ihre Grenzen<\/h4>\n<p>Weltuntergangsszenarien beruhen oft auf analogem Denken, das besagt, dass, weil zwei Dinge \u00e4hnlich sind, was f\u00fcr das eine zutrifft, auch f\u00fcr das andere wahr sein muss. Beispiele f\u00fcr analoge Argumente sind:<\/p>\n<ul class=\"wp-block-list\"><li>Es k\u00f6nnte Leben auf Europa geben, weil dieser Mond eine Atmosph\u00e4re mit Sauerstoff hat, \u00e4hnlich wie die Erde.<\/li>\n<li>Dieser Roman hat wahrscheinlich eine \u00e4hnliche Handlung wie ein anderer, den wir gelesen haben, daher ist er wahrscheinlich auch langweilig.<\/li>\n<li>Das Universum ist ein komplexes System wie eine Uhr. Wir w\u00fcrden nicht glauben, dass eine Uhr zuf\u00e4llig entstehen kann, also muss etwas so Komplexes wie das Universum von einem intelligenten Wesen erschaffen worden sein.<\/li><\/ul>\n<p>Im Zusammenhang mit KI wird argumentiert, dass k\u00fcnstliche Agenten genauso gierig sein m\u00fcssen wie Menschen. Wenn ein k\u00fcnstlicher Agent genauso ressourcenhungrig ist wie ein Mensch, w\u00fcrde er kontinuierlich nach mehr Energie streben und jede Strategie, einschlie\u00dflich T\u00e4uschung und Manipulation, anwenden, um dieses Ziel zu erreichen.<\/p>\n<h4 class=\"wp-block-heading\">Belohnungssysteme in K\u00fcnstlichen Agenten<\/h4>\n<p>Cohen, Hutter und Osborne gehen tiefer auf das Problem ein und diskutieren die Belohnungssysteme in bestimmten Arten des maschinellen Lernens, insbesondere des Verst\u00e4rkungslernens. Dieser Ansatz konzentriert sich darauf, geeignete Aktionen zu ergreifen, um Belohnungen in einer gegebenen Situation zu maximieren. Software und Maschinen nutzen diese Methode, um das bestm\u00f6gliche Verhalten in spezifischen Szenarien zu bestimmen. Das System lernt, indem es Feedback in Form von Belohnungen oder Strafen erh\u00e4lt, wodurch es versteht, welche Aktionen vorteilhaft sind und verfolgt werden sollten und welche nicht und vermieden werden sollten. Diese Belohnungen und Strafen werden vom Forscher oder Entwickler definiert.<\/p>\n<h4 class=\"wp-block-heading\">Evolution\u00e4re Perspektiven und das Verhalten von KI<\/h4>\n<p>Menschliche Agenten sind Produkte der Evolution und darauf ausgelegt, ihren eigenen Interessen zu folgen. Ebenso wie es Menschen gibt, die kooperativer oder widerspenstiger sind, k\u00f6nnen in bestimmten Umgebungen widerspenstigere Agenten einen Vorteil haben und sich besser anpassen. Umgekehrt gedeihen in Umgebungen, in denen das \u00dcberleben der Gruppe und Zusammenarbeit im Vordergrund stehen, kooperative Agenten.<\/p>\n<p>Studien haben gezeigt, dass sogar fest verankerte W\u00fcnsche \u00fcberschrieben werden k\u00f6nnen. Zum Beispiel zeigte die Studie von James Olds und Peter Milner aus dem Jahr 1954, <em>&#8222;Positive Reinforcement Produced by Electrical Stimulation of Septal Area and Other Regions of Rat Brain&#8220;<\/em>, dass M\u00e4use durch Hirnstimulation so konditioniert werden konnten, dass sie einen bestimmten elektrischen Reiz der Nahrung vorzogen.<\/p>\n<h4 class=\"wp-block-heading\">Implikationen f\u00fcr K\u00fcnstliche Agenten<\/h4>\n<p>Der entscheidende Punkt ist, dass menschliche Agenten durch eine Kombination aus Gier und \u00dcberlebensinstinkten angetrieben werden. Bei der Schaffung k\u00fcnstlicher Agenten ist es m\u00f6glich, sie ohne dieselben intrinsischen Antriebe zur unendlichen Gier zu gestalten. Die oft behauptete Natur der menschlichen Gier muss nicht zwangsl\u00e4ufig in KI nachgebildet werden.<\/p>\n<h4 class=\"wp-block-heading\">Schlussfolgerung<\/h4>\n<p>Wenn dystopische Weltuntergangsszenarien im Zusammenhang mit KI als wahrscheinlich angesehen werden, wird es entscheidend wichtig, L\u00f6sungen zu finden. Die M\u00f6glichkeit, k\u00fcnstliche Agenten mit anderen Motivationsstrukturen als Menschen zu schaffen, sollte in Betracht gezogen und analysiert werden. Das Potenzial, KI zu entwickeln, die nicht die menschliche Gier widerspiegelt, k\u00f6nnte entscheidend sein, um die Risiken im Zusammenhang mit fortgeschrittenen k\u00fcnstlichen Agenten zu mindern. Weitere Forschung und durchdachtes Design sind unerl\u00e4sslich, um die sichere Integration von KI in unsere Welt zu gew\u00e4hrleisten.<\/p>","protected":false},"excerpt":{"rendered":"<p>Wir begehen wahrscheinlich einen Denkfehler beim Ersinnen m\u00f6glicher Weltuntergangsszenarien im Zusammenhang mit K\u00fcnstlicher Intelligenz (KI). In dem Artikel &#8222;Advanced Artificial Agents Intervene in the Provision of Reward&#8220; argumentieren Michael K. Cohen, Marcus Hutter und Michael A. Osborne, dass die Probleme beginnen, wenn wir anfangen, Belohnungssysteme in k\u00fcnstliche Agenten einzubauen. In diesem Artikel werde ich teilweise [&hellip;]<\/p>","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[1],"tags":[98,205,99,100,206,204],"class_list":["post-843","post","type-post","status-publish","format-standard","hentry","category-allgemein","tag-ai","tag-forschung","tag-ki","tag-machine-learning","tag-reinforcement-learning","tag-wissenschaft"],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v25.4 - https:\/\/yoast.com\/wordpress\/plugins\/seo\/ -->\n<title>Weltuntergangsszenarien durch k\u00fcnstliche Intelligenz: Hoffnung und Handlungsbedarf - Looped Learning<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.kehrwasser.com\/blog\/2024\/06\/13\/weltuntergangsszenarien-durch-kuenstliche-intelligenz-hoffnung-und-handlungsbedarf\/\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Weltuntergangsszenarien durch k\u00fcnstliche Intelligenz: Hoffnung und Handlungsbedarf - Looped Learning\" \/>\n<meta property=\"og:description\" content=\"Wir begehen wahrscheinlich einen Denkfehler beim Ersinnen m\u00f6glicher Weltuntergangsszenarien im Zusammenhang mit K\u00fcnstlicher Intelligenz (KI). In dem Artikel &#8222;Advanced Artificial Agents Intervene in the Provision of Reward&#8220; argumentieren Michael K. Cohen, Marcus Hutter und Michael A. Osborne, dass die Probleme beginnen, wenn wir anfangen, Belohnungssysteme in k\u00fcnstliche Agenten einzubauen. In diesem Artikel werde ich teilweise [&hellip;]\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.kehrwasser.com\/blog\/2024\/06\/13\/weltuntergangsszenarien-durch-kuenstliche-intelligenz-hoffnung-und-handlungsbedarf\/\" \/>\n<meta property=\"og:site_name\" content=\"Looped Learning\" \/>\n<meta property=\"article:published_time\" content=\"2024-06-13T07:21:31+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2024-06-13T15:15:40+00:00\" \/>\n<meta name=\"author\" content=\"Kevin Heusinger\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"Kevin Heusinger\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"4\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/www.kehrwasser.com\/blog\/2024\/06\/13\/weltuntergangsszenarien-durch-kuenstliche-intelligenz-hoffnung-und-handlungsbedarf\/\",\"url\":\"https:\/\/www.kehrwasser.com\/blog\/2024\/06\/13\/weltuntergangsszenarien-durch-kuenstliche-intelligenz-hoffnung-und-handlungsbedarf\/\",\"name\":\"Weltuntergangsszenarien durch k\u00fcnstliche Intelligenz: Hoffnung und Handlungsbedarf - Looped Learning\",\"isPartOf\":{\"@id\":\"https:\/\/www.kehrwasser.com\/blog\/#website\"},\"datePublished\":\"2024-06-13T07:21:31+00:00\",\"dateModified\":\"2024-06-13T15:15:40+00:00\",\"author\":{\"@id\":\"https:\/\/www.kehrwasser.com\/blog\/#\/schema\/person\/d05f6ec3af9fdb4eb51b5aac1f9e91cf\"},\"breadcrumb\":{\"@id\":\"https:\/\/www.kehrwasser.com\/blog\/2024\/06\/13\/weltuntergangsszenarien-durch-kuenstliche-intelligenz-hoffnung-und-handlungsbedarf\/#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/www.kehrwasser.com\/blog\/2024\/06\/13\/weltuntergangsszenarien-durch-kuenstliche-intelligenz-hoffnung-und-handlungsbedarf\/\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/www.kehrwasser.com\/blog\/2024\/06\/13\/weltuntergangsszenarien-durch-kuenstliche-intelligenz-hoffnung-und-handlungsbedarf\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Startseite\",\"item\":\"https:\/\/www.kehrwasser.com\/blog\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Weltuntergangsszenarien durch k\u00fcnstliche Intelligenz: Hoffnung und Handlungsbedarf\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/www.kehrwasser.com\/blog\/#website\",\"url\":\"https:\/\/www.kehrwasser.com\/blog\/\",\"name\":\"Looped Learning\",\"description\":\"#innovation, #ki, #newWork, #agile, #validatedLearning\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/www.kehrwasser.com\/blog\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/www.kehrwasser.com\/blog\/#\/schema\/person\/d05f6ec3af9fdb4eb51b5aac1f9e91cf\",\"name\":\"Kevin Heusinger\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\/\/www.kehrwasser.com\/blog\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/99ba53c67cb33396656b9736e215b87b954fd3c27c0e38ddc100f885da526bfb?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/99ba53c67cb33396656b9736e215b87b954fd3c27c0e38ddc100f885da526bfb?s=96&d=mm&r=g\",\"caption\":\"Kevin Heusinger\"},\"sameAs\":[\"https:\/\/www.kehrwasser.com\"],\"url\":\"https:\/\/www.kehrwasser.com\/blog\/author\/kw-kevin\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Weltuntergangsszenarien durch k\u00fcnstliche Intelligenz: Hoffnung und Handlungsbedarf - Looped Learning","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.kehrwasser.com\/blog\/2024\/06\/13\/weltuntergangsszenarien-durch-kuenstliche-intelligenz-hoffnung-und-handlungsbedarf\/","og_locale":"de_DE","og_type":"article","og_title":"Weltuntergangsszenarien durch k\u00fcnstliche Intelligenz: Hoffnung und Handlungsbedarf - Looped Learning","og_description":"Wir begehen wahrscheinlich einen Denkfehler beim Ersinnen m\u00f6glicher Weltuntergangsszenarien im Zusammenhang mit K\u00fcnstlicher Intelligenz (KI). In dem Artikel &#8222;Advanced Artificial Agents Intervene in the Provision of Reward&#8220; argumentieren Michael K. Cohen, Marcus Hutter und Michael A. Osborne, dass die Probleme beginnen, wenn wir anfangen, Belohnungssysteme in k\u00fcnstliche Agenten einzubauen. In diesem Artikel werde ich teilweise [&hellip;]","og_url":"https:\/\/www.kehrwasser.com\/blog\/2024\/06\/13\/weltuntergangsszenarien-durch-kuenstliche-intelligenz-hoffnung-und-handlungsbedarf\/","og_site_name":"Looped Learning","article_published_time":"2024-06-13T07:21:31+00:00","article_modified_time":"2024-06-13T15:15:40+00:00","author":"Kevin Heusinger","twitter_card":"summary_large_image","twitter_misc":{"Verfasst von":"Kevin Heusinger","Gesch\u00e4tzte Lesezeit":"4\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/www.kehrwasser.com\/blog\/2024\/06\/13\/weltuntergangsszenarien-durch-kuenstliche-intelligenz-hoffnung-und-handlungsbedarf\/","url":"https:\/\/www.kehrwasser.com\/blog\/2024\/06\/13\/weltuntergangsszenarien-durch-kuenstliche-intelligenz-hoffnung-und-handlungsbedarf\/","name":"Weltuntergangsszenarien durch k\u00fcnstliche Intelligenz: Hoffnung und Handlungsbedarf - Looped Learning","isPartOf":{"@id":"https:\/\/www.kehrwasser.com\/blog\/#website"},"datePublished":"2024-06-13T07:21:31+00:00","dateModified":"2024-06-13T15:15:40+00:00","author":{"@id":"https:\/\/www.kehrwasser.com\/blog\/#\/schema\/person\/d05f6ec3af9fdb4eb51b5aac1f9e91cf"},"breadcrumb":{"@id":"https:\/\/www.kehrwasser.com\/blog\/2024\/06\/13\/weltuntergangsszenarien-durch-kuenstliche-intelligenz-hoffnung-und-handlungsbedarf\/#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.kehrwasser.com\/blog\/2024\/06\/13\/weltuntergangsszenarien-durch-kuenstliche-intelligenz-hoffnung-und-handlungsbedarf\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/www.kehrwasser.com\/blog\/2024\/06\/13\/weltuntergangsszenarien-durch-kuenstliche-intelligenz-hoffnung-und-handlungsbedarf\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Startseite","item":"https:\/\/www.kehrwasser.com\/blog\/"},{"@type":"ListItem","position":2,"name":"Weltuntergangsszenarien durch k\u00fcnstliche Intelligenz: Hoffnung und Handlungsbedarf"}]},{"@type":"WebSite","@id":"https:\/\/www.kehrwasser.com\/blog\/#website","url":"https:\/\/www.kehrwasser.com\/blog\/","name":"Looped Learning","description":"#innovation, #ki, #newWork, #agile, #validatedLearning","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.kehrwasser.com\/blog\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Person","@id":"https:\/\/www.kehrwasser.com\/blog\/#\/schema\/person\/d05f6ec3af9fdb4eb51b5aac1f9e91cf","name":"Kevin Heusinger","image":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.kehrwasser.com\/blog\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/99ba53c67cb33396656b9736e215b87b954fd3c27c0e38ddc100f885da526bfb?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/99ba53c67cb33396656b9736e215b87b954fd3c27c0e38ddc100f885da526bfb?s=96&d=mm&r=g","caption":"Kevin Heusinger"},"sameAs":["https:\/\/www.kehrwasser.com"],"url":"https:\/\/www.kehrwasser.com\/blog\/author\/kw-kevin\/"}]}},"jetpack_featured_media_url":"","jetpack-related-posts":[],"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/www.kehrwasser.com\/blog\/wp-json\/wp\/v2\/posts\/843","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kehrwasser.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kehrwasser.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kehrwasser.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kehrwasser.com\/blog\/wp-json\/wp\/v2\/comments?post=843"}],"version-history":[{"count":3,"href":"https:\/\/www.kehrwasser.com\/blog\/wp-json\/wp\/v2\/posts\/843\/revisions"}],"predecessor-version":[{"id":847,"href":"https:\/\/www.kehrwasser.com\/blog\/wp-json\/wp\/v2\/posts\/843\/revisions\/847"}],"wp:attachment":[{"href":"https:\/\/www.kehrwasser.com\/blog\/wp-json\/wp\/v2\/media?parent=843"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kehrwasser.com\/blog\/wp-json\/wp\/v2\/categories?post=843"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kehrwasser.com\/blog\/wp-json\/wp\/v2\/tags?post=843"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}