<div dir="ltr"><br><div class="gmail_extra"><br><br><div class="gmail_quote">On Fri, Sep 5, 2014 at 4:14 AM, Anders Sandberg <span dir="ltr"><<a href="mailto:anders@aleph.se" target="_blank">anders@aleph.se</a>></span> wrote:<blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex"><div><br></div><div>Preventing young civilizations from messing up the garden is another one. I agree that killing everybody would be simplest, but not all utility functions favour it (for example, civilizations that try to maximize diversity). So the main prediction would be that activities that do not mess up the long-term state are entirely OK, but as soon as you try to build your universe-spamming von Neumann probe the "police" will show up. Which is an experimentally testable idea...</div></blockquote><div><br></div><div>### What I had in mind is not necessarily killing the cute young puppy civilizations, although a supermind dwelling in the darkness might see this is as entirely unobjectionable. Hypervelocity objects striking all planets bearing monocellular life, sufficient to boil the top layer of rock, once every billion years, should do the trick bloodlessly by preventing life from ever getting close to generating a civilization.</div><div><br></div><div>Maybe ours is just running late :)</div><div><br></div><div>Rafal</div></div>
</div></div>