<div dir="ltr"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)"><h1><span style="font-size:small;font-weight:normal">but some are also capable of making decisions and acting independently.</span></h1></div></div></div></blockquote><div>He's right about that.  See "agentic" AI,  among other initiatives.</div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)"><div><div><span><span>We must stop everything. We are not ready.</span></span></div></div></div></div></div></blockquote><div><br></div><div>"Who 'we', kemosabe?"</div><div><br></div><div>These systems will be developed, and soon - if not by us, then by the bad guys, who are defined in their badness in this case by intentionally designing the systems toward malicious ends (biasing their service in favor of authoritarian regimes, for instance).  "We" halting development will only empower them.</div><div><br></div><div>He has called for all-out war on them.  Even that would probably not suffice, and in any case, it's not happening.  Given this reality, calls for "we" to stop are counterproductive.</div></div></div>