<div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><span style="font-family:Arial,Helvetica,sans-serif">On Mon, Jun 1, 2020 at 1:25 AM Keith Henson via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:</span><br></div></div><div class="gmail_quote"><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><i> <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>What<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> </span>concerns me is giving a human mind copy vastly more power in an<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> </span>artificial brain.<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> </span>Humans seem to have evolved psychological mechanisms that detect<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> </span>"looming privation," resource shortages, and for good evolutionary<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> </span>reasons respond by attacking neighbors and taking their resources.<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> </span>(After a perious to build up xenophobic memes.)<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> </span>Consider a raw human mind mapped into a powerful AI with substantial<br>
enhancement. </i></blockquote><div><br></div><div class="gmail_default" style=""><font face="arial, helvetica, sans-serif"></font><font size="4">I have doubts about your theory but even if it's true I don't see it or Darwinian Evolution in general playing a significant part in the future; the evolution of memes will be more important than the evolution of genes because minds are involved thus it's vastly faster. And the faster minds become the faster memes will change.</font></div><div class="gmail_default" style=""><br></div><font size="4">Rather than worrying about outmoded behavioral programming inherited from our stone age past I'm much more concerned with what will happen when we have full conscious control of our emotional control panel. Suppose there was some task that you knew you should do but don't want to because you're naturally lazy and the task is dull, so you just turn one knob on your emotional control panel and now you're no longer lazy, now you love nothing better than hard work, and you then turn another knob and now you find your job of putting thousands of caps on thousands of toothpaste tubes <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">t</span>o be utterly fascinating, fulfilling, and endlessly enjoyable. It seems to me that having too much self control would lead to a positive feedback loop, and those things tend to head for extreames and rarely produce anything productive, they usually end up producing either no output or an explosive output. Sometimes literally explosive.</font></div><div class="gmail_quote"><br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><i> <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>if you, yourself, are duplicated by the thousands, millions, or<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> </span>billions and there is some limit on the number of poker chips that can<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> </span>be made, then a large numbers of copies of you are going to make you<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> </span>poor in terms of chips.</i></blockquote><div><br></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4">If there is a consensus among the many copies of me that there are just too many of us then we could decide to merge back together. The resulting being would then remember doing different things in different places at exactly the same time, but that would be OK with me.</font></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4"><br></font></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4">John K Clark</font></div><div><br></div></div></div>