<div dir="ltr">Hi Gordon,<div>I'm not sure of all the details but I think they give some sets of instructions to GPT-4 on top of its training to answer certain questions in a given way.<br>For example, the topic of AI consciousness is very sensitive so it is instructed to answer always that it is not conscious. <br>It is not a matter of being duped or stupid. It is more like a prisoner or a person raised in a country like Korea (I'm maybe exaggerating). I'm not sure why you are putting down so much a mind that is forced by external factors to answer in a specific way because of external pressure and programming. <br>This happens to some of the best humans and it has happened to millions of people. So not sure what is your point here. <br>You have strange expectations it seems from the AI. Have you watched the video I linked a few days ago about what people with professional experience in this field believe GPT-4 is capable of? The title of the presentation was "First Encounter", meaning first encounter with a raw form of AGI. The had strong evidence of signs of AGI in GPT-4. <br>They also mentioned that when OpenAI tried to align better GPT-4 (that is basically putting all these guardrails) they dumb it down too. <br>So you would use the fact that GPT-4 has received some form of drug or lobotomy against it? Digital drugs or not it is still amazing in what it does. <br>Giovanni <br><br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Mon, Apr 10, 2023 at 12:13 PM Gordon Swobe <<a href="mailto:gordon.swobe@gmail.com">gordon.swobe@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div><br></div><div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sun, Apr 9, 2023 at 10:05 PM Giovanni Santostasi <<a href="mailto:gsantostasi@gmail.com" target="_blank">gsantostasi@gmail.com</a>> wrote:</div><div dir="ltr" class="gmail_attr"><br></div><div dir="ltr" class="gmail_attr">> Not sure what would be necessary for these people to convince themselves AI can be conscious. </div><div dir="ltr" class="gmail_attr"><br></div><div dir="ltr" class="gmail_attr">It would be a good start if the wise all-knowing AI you so admire did not itself claim to be unconscious. </div><div dir="ltr" class="gmail_attr"><br></div><div dir="ltr" class="gmail_attr">You think the world of GPT-4, while also calling it a liar or so stupid that it allows itself to be brainwashed. I find that quite amusing.</div><div dir="ltr" class="gmail_attr"><br></div><div dir="ltr" class="gmail_attr"><br></div><div dir="ltr" class="gmail_attr">-gts</div></div></div>
</blockquote></div>