<div class="gmail_quote">On 25 February 2011 21:12, Samantha Atkins <span dir="ltr"><<a href="mailto:sjatkins@mac.com">sjatkins@mac.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin: 0pt 0pt 0pt 0.8ex; border-left: 1px solid rgb(204, 204, 204); padding-left: 1ex;">
Are you assuming that this collective state of mind is particularly rational or a good [enough] decision maker?   </blockquote><div><br>Do we assume that our individual "society of the mind" state is a particularly rational or good enough decision maker?<br>
<br>No. What can safely be assumed is that most of us like to decided for him- or herself nevertheless - and, additionally, that a sufficiently diverse set of decisions may even be of some use to confront their rationality and "goodness", whatever this may mean.<br>
<br>Why this should be any different with collective entities, such as communities, corporations, and above all *peoples*?<br> </div><blockquote class="gmail_quote" style="margin: 0pt 0pt 0pt 0.8ex; border-left: 1px solid rgb(204, 204, 204); padding-left: 1ex;">
This is a problem I had with Eliezer's CEV concept as well.  Even a powerful AGI that deeply ferreted out and did what humanity collectively wanted or what it extrapolated that humanity when most rational/wise would want would not be a clear win.</blockquote>
<div><br>I do not care much for what "humanity" (whatever this may mean...) wants, let alone for its will being universally forced across the board on the entire species. If anything, "humanity" is likely to be currently opposed to anything threatening its top-of-food-chain position, including a posthuman evolution of sectors thereof.<br>
<br>On the other hand, the ability of *each* political entity to make diverse decisions as to its future remains, IMHO, the best chance for any prospective of posthuman change, or rather *changes*. If anything, for the pressure it puts on neoluddite competitors.<br>
<br>Do we fear for the oppression, however defined, of individuals by foreign state? Nothing prevents one in the Internet era from trying and persuading its citizens that system B is better than system A, if he so wishes, and in the meantime to make it as easy as possible for them to vote with their feet.<br>
<br></div></div>-- <br>Stefano Vaj<br>