<div dir="ltr"><div dir="ltr"><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, May 10, 2019 at 11:18 PM Stuart LaForge <<a href="mailto:avant@sollegro.com">avant@sollegro.com</a>> wrote:</div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
<br>
Who or what gets to decide what is Good and what is Bad? By what  <br>
criteria? An AI programmed to see anything that challenges the status  <br>
quo as Bad? Make creativity a crime and dissent a death sentence? And  <br>
if you are talking about god-like AI, then why would it bother with a  <br>
bunch of stupid meat-automatons when steel, plastic, and silicon are  <br>
so much more durable?<br></blockquote><div><br></div><div>### Yeah, this is the interesting part - in our history it was inclusive evolutionary fitness that ultimately decided what most of us would perceive as good and bad. Evolution was the goal-setter more or less directly. In the designed future there will be conscious mediation between evolutionary pressures and outcomes, including moral perceptions of the designed minds. Under most circumstances evolution will still apply, as long as there is no singleton mind controlling everything but it will operate at the level of competition between societies, rather than at an individual level. Individuals will be designed but the design criteria will be evolved. To put it simply, societies that by chance make wrong design choices will be out-competed by those that stumble on the evolutionarily correct ones.</div><div> -----------------------------------</div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
Humans simmering with constant warfare sounds safer to me than AI Borg  <br>
Hive Minds waging war with the weapons they would have at THEIR  <br>
disposal. Not to mention the fact that if humans change so drastically  <br>
as to be the cells of a hive-mind, then that would be a whole new  <br>
post-human species anyway. So the human species would be extinct  <br>
regardless if a few Borg drones contained some of our DNA.<br></blockquote><div><br></div><div>### Indeed, I am not describing necessarily a future dear to my heart but rather I consider a future as it might very well happen, even if the UFAI doesn't kill us all.</div><div> ----------------------------------</div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
<br>
The *only* reliable way to safeguard against extinction is through  <br>
niche diversification, physical redundancy, and offsite backups i.e.  <br>
off-world colonization. Anything else is just a power grab for the  <br>
remaining resources of our lonely little planet by more of Rafal's  <br>
lying jerks.<br>
<br>
Diaspora is our only true hope. And if you are going to engineer  <br>
humanity, than for evolution's sake engineer it to survive the rigors  <br>
of space and not simply to be a more obedient cog in the big machine.<br><br></blockquote><div>### Amen to that.  </div></div></div>