<div dir="ltr"><div class="gmail_default" style="font-family:comic sans ms,sans-serif;font-size:large;color:#000000">Wild guess: half the population has exaggerated fears which lead them to mismanage their lives and those of others.   bill w</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, Apr 5, 2022 at 9:18 AM spike jones via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div lang="EN-US" style="overflow-wrap: break-word;"><div class="gmail-m_1898734864249652435WordSection1"><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal"><u></u> <u></u></p><div><div><p class="MsoNormal"><b>…</b>> <b>On Behalf Of </b>Jason Resch via extropy-chat<br><br><u></u><u></u></p><div><div><p class="MsoNormal">On Tue, Apr 5, 2022, 12:30 AM spike jones via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<u></u><u></u></p></div><blockquote style="border-top:none;border-right:none;border-bottom:none;border-left:1pt solid rgb(204,204,204);padding:0in 0in 0in 6pt;margin-left:4.8pt;margin-right:0in"><div><div><p class="MsoNormal">  ….<u></u><u></u></p></div></div></blockquote></div></div><div><div><blockquote style="border-top:none;border-right:none;border-bottom:none;border-left:1pt solid rgb(204,204,204);padding:0in 0in 0in 6pt;margin-left:4.8pt;margin-right:0in"><div><div><div><div><p class="MsoNormal"> >>…I am generally an optimist (from most points of view an absurdly self-delusional optimist) but I don’t trust AI to be sane.  It didn’t have the same evolutionary path as we do, so evolutionary psychology do not shape its motives, we do….spike<u></u><u></u></p></div></div></div></div></blockquote></div></div><div><p class="MsoNormal"><u></u> <u></u></p></div><div><p class="MsoNormal">>…I think for most of the foreseeable paths forward, with all current deep learning approaches based on learning and training, our direct control over an AIs development may be limited to the data we provide it…<u></u><u></u></p></div><div><p class="MsoNormal">>…Regardless of what the teacher tried to teach, and ultimately regardless of the contents of the books, the superintelligenece gets to the same place in the end…Jason<u></u><u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal">Ja.  Spike’s law:<u></u><u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal">The first thing humans do with any powerful new technology is to make a weapon from it.<u></u><u></u></p><p class="MsoNormal"><u></u> <u></u></p></div></div><p class="MsoNormal">spike<u></u><u></u></p></div></div>_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div>