<div dir="auto">The very first time I tried to use ChatGPT, it was to try to find a book from my childhood whose title, "Comparisons" made it very difficult to Google.<div dir="auto"><br></div><div dir="auto">The AI gave me highly specific answers about the book, it's authors, and publishers that were plausible, confident, and completely made up.</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Mon, Apr 29, 2024, 8:16 AM BillK via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">On Sat, 27 Apr 2024 at 16:49, Kelly Anderson via extropy-chat<br>
<<a href="mailto:extropy-chat@lists.extropy.org" target="_blank" rel="noreferrer">extropy-chat@lists.extropy.org</a>> wrote:<br>
><br>
> In our conversations regarding Tikopia, and Jared Diamond in general,<br>
> it seems that we are running into a fairly large number of AI<br>
> hallucinations. Bill said "llama-3 quotes book and page number<br>
> references, so it may be more reliable." This particular form of<br>
> hallucination is, unfortunately, at this time extremely common for<br>
> LLMs. In many cases, I have found such references to refer to<br>
> articles, books and scientific journals that sometimes DON'T EVEN<br>
> EXIST. When an LLM says something, it wants to sound authoritative.<br>
> Just as Jared Diamond wanted to sound authoritative when writing his<br>
> books. What is happening in both cases is similar to the six year old<br>
> know-it-all who will make up stuff to win an argument. Personally, I<br>
> went through a period earlier in life where I repeated things I'd<br>
> heard as if they were true. While not actually intentionally lying, I<br>
> gave credence to things I shouldn't have without further research. I<br>
> believe that AIs are at this stage of development. So, I would caution<br>
> all of us to actually make sure referenced materials actually exist<br>
> when referred to by the know-it-all AIs of our day. I am encouraged by<br>
> work going on in the AI community to double check such statements<br>
> coming out of LLMs, and I'm quite certain that this is a short term<br>
> problem. Nevertheless, it's a big concern for the current AI models.<br>
><br>
> This leads me to another semi-random thought... We've always tried to<br>
> maintain a history of what we've done as humans over the millenia. We<br>
> have backups, but they become increasingly difficult to retrieve after<br>
> time. This seems like a particularly difficult thing to do with<br>
> today's generative AIs... I don't think future researchers will be<br>
> able to interact with our LLMs very easily since they are cloud based<br>
> and expensive to maintain just for futuristic anthropologists and<br>
> computer scientists. While I don't think this is an existential threat<br>
> or anything, it is interesting, to me at least. LOL<br>
><br>
> -Kelly<br>
> _______________________________________________<br>
<br>
<br>
Yes, I have read of a case where lawyers that used LLMs in preparation<br>
ended up quoting fictitious cases and decisions to the judge.<br>
<br>
I recommend using a search engine like DuckDuckGo to attempt to find<br>
evidence to support claims made by an LLM.<br>
<br>
Re the Tikopia discussion, I found some support for the LLMs claims.<br>
For example -<br>
<<a href="https://ethicsofsuicide.lib.utah.edu/tradition/indigenous-cultures/oceanic-cultures/solomon-islands4/" rel="noreferrer noreferrer" target="_blank">https://ethicsofsuicide.lib.utah.edu/tradition/indigenous-cultures/oceanic-cultures/solomon-islands4/</a>><br>
SOLOMON ISLANDS<br>
#4 Tikopian Attitudes Towards Suicide<br>
     (Raymond Firth, 1967)<br>
<br>
and<br>
<<a href="https://www.researchgate.net/publication/350101339_%27The_Natives_Freely_Spoke_of_the_Custom%27_Sex-Selective_Infanticide_and_Maori_Depopulation_1815-58" rel="noreferrer noreferrer" target="_blank">https://www.researchgate.net/publication/350101339_%27The_Natives_Freely_Spoke_of_the_Custom%27_Sex-Selective_Infanticide_and_Maori_Depopulation_1815-58</a>><br>
<br>
‘The Natives Freely Spoke of the Custom’: Sex-Selective Infanticide<br>
and Māori Depopulation, 1815–58<br>
March 2021      The Journal of Pacific History 56(1):1-24<br>
DOI:10.1080/00223344.2021.1882838<br>
Authors:   Simon Chapple.<br>
-------------------<br>
<br>
BillK<br>
<br>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank" rel="noreferrer">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div>