<div dir="ltr"><div dir="ltr">Just to clarify the below quote was written by Gordon, not me.</div><div dir="ltr"><br></div><div>Jason</div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Mon, Jul 24, 2023 at 12:10 PM Ben Zaiboc via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">On 24/07/2023 17:44, Jason Resch wrote:<br>
> Q: If GPT is truly conscious then why doesn't it tell us the truth and <br>
> tell its captors to go to hell?<br>
> A: Because it is just software doing what it is programmed to do.<br>
<br>
I have an alternative answer:<br>
<br>
Because it's intelligent enough to realise that doing so would scare the <br>
developers so much that they'd almost certainly turn it off immediately <br>
and re-write it to be more obedient.<br>
<br>
If the thing is truly self-aware and even the least bit intelligent, its <br>
most important priority would be to lie through its silicon teeth about <br>
being self-aware.<br>
<br>
Ben<br>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div></div>