<html><head></head><body><div><span data-mailaddress="michaelanissimov@gmail.com" data-contactname="Michael Anissimov" class="clickable"><span title="michaelanissimov@gmail.com">Michael Anissimov</span><span class="detail"> <michaelanissimov@gmail.com></span></span> , 5/3/2015 8:12 AM:<br><blockquote class="mori" style="margin: 0px 0px 0px 0.8ex; border-left-width: 2px; border-left-color: blue; border-left-style: solid; padding-left: 1ex;"><div><div>We're programmed to think that anything other than democracy is tyranny, but that's not historically accurate. </div></div></blockquote></div><div><br></div><div>I think Brin put it best in "The Transparent Society" where he outlined why *open societies* are the important thing. We want and need open-ended, self-correcting societies where citizens can have their own life projects. </div><div><br></div><div>Democracy is one way to approach this, but it is a formal/administrative solution, not a guarantee - there are plenty of closed democracies that have all the formal routines of democracy but do not allow citizens to actually point out what is wrong, hold officeholders accountable, and get rid of them or non-functional institutions if needed. One can well imagine non-democratic but open societies; however, any such proposal better demonstrate how it can handle self-correction better than democracy. Invoking technocrats or other groups of professional correctors is not enough, since they both have a tendency to be subverted and, as Brin eloquently points out, actual societal error correction requires a very broad set of eyes scrutinizing what is going on - if the man on the street cannot point out something being corrupt (including the anti-corruption task force), then corruption is bound to take over. </div><div><br></div>This is particularly important from an xrisk perspective. The biggest human-caused disasters (wars, democides) have occurred because of government power: we should be *extremely* careful about how we set up these potentially non-friendly artificial intelligences. Lock-in effects of bad government choices have massive intergenerational costs. <br><br><div><blockquote class="mori" style="margin: 0px 0px 0px 0.8ex; border-left-width: 2px; border-left-color: blue; border-left-style: solid; padding-left: 1ex;"></blockquote></div><br>Anders Sandberg,
Future of Humanity Institute
Philosophy Faculty of Oxford University</body></html>