<div dir="ltr"><br><div class="gmail_extra"><br><div class="gmail_quote">On Fri, Jul 22, 2016 at 5:30 PM, Anders Sandberg <span dir="ltr"><<a href="mailto:anders@aleph.se" target="_blank">anders@aleph.se</a>></span> wrote: <blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div bgcolor="#FFFFFF" text="#000000">
    <br>
    My concern was automation making abuse of power automatable.</div></blockquote><div><br></div><div>### Yes, absolutely. There is a spectrum of automated abuse, with UnFAI Hell-Singularity at the evil extreme but there are other quite bad ones, such as an Immortal God-Emperor of Earth, a single, scientifically immortalized person in control of invincible robot armies, or perhaps an Aristo world, with a class of evil, sadistic Overlords oppressing the helots with absolutely no chance of an uprising succeeding, ever.</div><div><br></div><div>Indeed, to cogitate on these issues we shall :)</div><div><br></div><div>Rafał</div></div>
</div></div>