<div dir="ltr"><br><div class="gmail_extra"><br><br><div class="gmail_quote">On Sat, Jun 14, 2014 at 6:14 PM, Anders Sandberg <span dir="ltr"><<a href="mailto:anders@aleph.se" target="_blank">anders@aleph.se</a>></span> wrote:<span style="font-family:'Times New Roman',serif;font-size:14pt;color:rgb(0,0,0)">.</span><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<div><div><br></div><div>This is a problematic approach. Yes, freely evolving systems of replicators generically get parasitism. But in the Fermi context free evolution is just one option: a civilization that has developed into a singleton might coordinate future behaviour to preclude parasitism or adversarial behaviour,</div>
</div></blockquote><div><br></div><div>### Indeed. This would probably require single AI takeover and elimination humans' ability to cause havoc (either by being killed or by being kept in secure isolated environments). And the takeover would have to take place before the first seeding wave of von Neumann probes.</div>
<div><br></div><div>Could be as little as 100 years from now. This century could potentially determine the fate of the visible universe for trillions of years.</div><div><br></div><div>Rafal</div></div>
</div></div>