<html><head></head><body><div><span title="hkeithhenson@gmail.com">Keith Henson</span><span class="detail"> <hkeithhenson@gmail.com></span> , 10/4/2014 11:36 PM:<br><blockquote class="mori" style="margin:0 0 0 .8ex;border-left:2px blue solid;padding-left:1ex;">I think a machine that was motivated to improve its status in the eyes

<br>of both humans and other machines would be relatively safe.

</blockquote></div><div><br></div><div>Any way of doing a formal analysis of it? We know human status gaming can be pretty destructive. </div><div><br><br>Anders Sandberg, Future of Humanity Institute Philosophy Faculty of Oxford University</div></body></html>