<div dir="ltr"><div dir="ltr">On Tue, Apr 4, 2023 at 9:29 AM Gadersd via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">>  But what about AI enhancing all<br>
> the worst features of humans?<br>
<br>
This is the real threat that AI poses. AI as an extension of human will is much more likely than a fully self-motivated autonomous agent to be exceptionally dangerous. Beware the super intelligence that obediently follows human instructions.<br></blockquote><div><br></div><div>Is that not what "friendly" AI is supposed to  be? </div></div></div>