<div dir="ltr"><div dir="ltr">On Thu, Apr 27, 2023 at 1:24 AM Giovanni Santostasi <<a href="mailto:gsantostasi@gmail.com">gsantostasi@gmail.com</a>> wrote:<br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><b>If one ignores context outside of the AI itself, one can assume that any answer is preprogrammed. <br></b>No one cannot assume that at all.</div></blockquote><div><br></div><div>One can make that assumption quite easily.</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"> As you said the answers are too complex and nuanced to assume that and also it is not how generative AI works. <br></div></blockquote><div><br></div><div>Which is why some people keep going to it as an override/aversion of what generative AI is.</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">But as I explained and GPT-4 confirmed there is a phase of the training where you can guide (GPT-4 term) the AI in a certain direction. We know for a fact this happened. There was a phase that involved large groups of humans, some of them actually working in African countries, where GPT-4 training material had to be filtered and its responses guided given the type of content one finds on the internet that is full of violence and pornographic content. So it was not necessarily a programmed answer but the reinforced learning process pushed GPT-4 to respond in a certain way about certain topics. <br></div></blockquote><div><br></div><div>This, on the other hand, is orthogonal to what I was testing for.  Yes, something that is able to understand - to at least some degree - what it is saying may have biases from the environment it learned in.  That does not mean there is no degree of understanding at all.</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">But you cannot find out if a system is intelligent by asking the system if it is intelligent.</div></blockquote><div><br></div><div>Intelligence, as in the quantity measured by IQ (which appears to be what you mean here), is not what I was testing for in this case.</div></div></div>