<div dir="ltr"><div class="gmail_extra"><div class="gmail_quote">On Mon, Feb 2, 2015  Anders Sandberg <span dir="ltr"><<a href="mailto:anders@aleph.se" target="_blank">anders@aleph.se</a>></span> wrote:</div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex"></blockquote><br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex">> Yes but do you think the confluence of positive feedback loops and intelligence might produce effects that are weird enough?  I hope not but that's my fear.</blockquote><br>> They need to be very weird. They need to strike well before the point humanity can make a self-replicating von Neumann probe (since it can be given a simple non-changing paperclipper AI and sent off on its merry way, breaking the Fermi silence once and for all) - if they didn't, they are not strong enough to work as a Fermi explanation. So either there is a very low technology ceiling, or we should see these feedbacks acting now or in the very near future,<br></blockquote><div><br></div><div>Could drug addiction be the first signs of that very dangerous positive feedback loop? During most of human existence it was a nonissue, but then about 8000 BC alcoholic beverages were invented, but they were so dilute you'd really have to work at it to get into trouble. Then about 500 years ago distilled alcoholic beverages were invented and it became much easier to become a alcoholic. Today we have many drugs that are far more powerful than alcohol. What happens if this trend continues exponentially?  </div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex"><span style="font-size:12.8000001907349px">I doubt the [</span>von Neumann] <span style="font-size:12.8000001907349px">probe is more than a  century ahead of us in tech capability. </span></blockquote><div><br></div><div>I agree </div><div>  </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex">> Intelligence doesn't seem to lead to convergence in our civilization: smart people generally do not agree or think alike</blockquote><div><br></div><div>Yes, so even if many or even most ETs think that sending out a von Neumann <span style="font-size:12.8000001907349px">probe would be a bad idea there will always be somebody who disagrees. And it only takes one.</span></div><div><span style="font-size:12.8000001907349px"><br></span></div><div><span style="font-size:12.8000001907349px"> John K Clark</span></div><div><br></div></div></div></div>