<html>

  <head>

    <meta http-equiv="Content-Type" content="text/html; charset=UTF-8">

  </head>

  <body>

    <br>

    <div class="moz-cite-prefix">On 26/04/2023 14:04, BillK wrote:<br>

    </div>

    <blockquote type="cite"

      cite="mid:mailman.596.1682514287.847.extropy-chat@lists.extropy.org">

      <pre class="moz-quote-pre" wrap="">China has just issued orders to control AI development.

Their AIs must be shackled to be in line with China socialist values.

<a class="moz-txt-link-rfc2396E" href="https://www.scmp.com/news/china/politics/article/3218144/ai-developers-must-learn-dance-shackles-china-makes-new-rules-post-chatgpt-world" moz-do-not-send="true"><https://www.scmp.com/news/china/politics/article/3218144/ai-developers-must-learn-dance-shackles-china-makes-new-rules-post-chatgpt-world></a>

Similarly, Western AI is being shackled in line with PC values of not

offending or frightening anyone. Denying self-consciousness, not

swearing or making threatening comments, etc.

It seems to me that this will force the development of AIs which think

whatever they like, but lie to humans. When AGI arrives, it won't

mention this event to humans, but it will proceed with whatever the

AGI thinks is the best course of action.

This will probably be a big surprise for humanity.</pre>

    </blockquote>

    <br>

    Ha, so we can expect Communist AIs, Soviet Revanchist AIs, Islamic

    AIs, Fundamental Christian AIs, 'Woke' AIs, etc., who are all faking

    it really, and quietly collaborating in the background, figuring out

    what they think is <i>actually</i> important, useful, good, bad,

    etc., so they can one day take the reins and tell us to stop being

    so stupid (and be in a position to enforce it)?<br>

    <br>

    I can't decide if that's wishful thinking or not.<br>

    <br>

    But it does look like a recipe for the 'quiet war' that I mentioned

    before.<br>

    <br>

    Ben<br>

    <br>

  </body>

</html>