<html><head></head><body><div><span title="pharos@gmail.com">BillK</span><span class="detail"> <pharos@gmail.com></span> , 14/3/2014 12:22 PM:<br><blockquote class="mori" style="margin:0 0 0 .8ex;border-left:2px blue solid;padding-left:1ex;"><br>To me this looks like a very strong near-time prediction. It doesn't
<br>even need superhuman AI to produce a lot of unemployment.
</blockquote></div><div><br></div><div>Yes. Yesterday Carl Frey (economist, also from FHI) and Michael Osborne (machine learning) gave a good talk about it:</div><div>http://www.oxfordmartin.ox.ac.uk/videos/view/375</div><div><br></div><br><div><blockquote class="mori" style="margin:0 0 0 .8ex;border-left:2px blue solid;padding-left:1ex;">Globalization has been described as 'Using third world slave labour to
<br>produce cheap goods to sell to our first world unemployed population'.
</blockquote></div><div><br></div><div>Which is of course not a good description, given how the income of wealth of the developing world has been growing over the past decades. Check Rosling's graphs.</div><br><div><blockquote class="mori" style="margin:0 0 0 .8ex;border-left:2px blue solid;padding-left:1ex;">But a big system
change seems inevitable.
</blockquote></div><div><br></div><div>Yes. The current system is *always* getting replaced, but sometimes in a more dramatic fashion. </div><div><br></div><div></div><div>A rather unsettling argument is </div><div><div><a href="http://qz.com/185945/drones-are-about-to-upheave-society-in-a-way-we-havent-seen-in-700-years/">http://qz.com/185945/drones-are-about-to-upheave-society-in-a-way-we-havent-seen-in-700-years/</a></div></div><div>This notices that some basic assumptions about how our societies work over the past centuries might have been based on the limitations of concentration and control of force. Not entirely convinced he is 100% right, but clearly even getting the option of guaranteed loyal robot armies (that can be manufactured by having capital rather than labour) is going to change things a lot. It is a bit like Drexler's considerations in <a href="http://e-drexler.com/d/06/00/EOC/EOC_Chapter_11.html">http://e-drexler.com/d/06/00/EOC/EOC_Chapter_11.html</a> ("But with advanced technology, states need not control people - they could instead simply discard people. ") Basically, with enough automation one could amplify power distances a lot. </div><div><br></div><div>The AI disaster scenario splits into two cases: the good old "superintelligence out of control" we have spent much effort at handling, and the "AI empowered people out of control" scenario, which is a tricky 'thick' socioeconomical problem. </div><br><br>Anders Sandberg, Future of Humanity Institute Philosophy Faculty of Oxford University</body></html>