<div dir="ltr"><div dir="ltr">On Sun, Mar 19, 2023 at 11:03 AM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr">I also think we cannot rule out at this time the possibility that we have already engineered conscious machines. Without an established and agreed upon theory of consciousness or philosophy of mind, we cannot even agree on whether or not a thermostat is conscious.<br></div></div></blockquote><div><br></div><div>A fair point.</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div>Where does our own volition and initiative come from? Is it not already programmed into us by our DNA?</div></div></div></blockquote><div><br></div><div>By definition, no it is not.  Our DNA may give us the capacity for volition and initiative, but "programmed" implies deliberate design.  Short of speculation about God and intelligent design, our DNA was not deliberately arranged by some other conscious entity that we can prove the existence of.</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div>What is your definition or theory of consciousness? If you don't have one, could you say which of these things you would say possess consciousness? With Yes/No/Uknown</div></div></div></blockquote><div><br></div><div>There are degrees of consciousness - even a human being can experience them: on a simple lazy morning where one slowly wakes up, one does not instantly go from fully unconscious to fully conscious - so answering Yes/No would misstate things.</div><div><br></div><div><a href="https://en.wiktionary.org/wiki/conscious">https://en.wiktionary.org/wiki/conscious</a> gives an illustrative example: "Only highly intelligent beings can be fully conscious."  That the phrase "fully conscious" makes sense at all means that there is a level of consciousness that is less than full, yet is also not completely absent (as that would merely be "unconscious", thus not justifying "fully" to distinguish from other levels of being conscious).</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div>I agree the definition of part is really all an invention of our minds, when the whole universe can be seen as one causally connected system. Is it correct to view a LLM as one thing, when it is really an interaction of many billions of individual parts (the parameters) of the model?<br></div></div></div></blockquote><div><br></div><div>Like most (maybe all: I haven't yet thoroughly considered exceptions) things, a LLM can alternatively be viewed as a single thing or as a collection of smaller things in a certain configuration.</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div>I lack the information to judge.  My answer would have to be based on an evaluation of the bots, which would take me substantial time to conduct.</div></div></div></blockquote><div><br></div><div>What would you look for in the bots to make your conclusion?</div></div></div></blockquote><div><br></div><div>I would not have a firm fixed list of criteria prior to the evaluation.  Any attempt to do so would almost certainly miss important criteria, which would only become apparent during the evaluation.</div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div>  Again I point to the subject line of the emails in which this discussion is happening, which clearly posits that "conscious" is a binary quality - that something either is, or is not, conscious with no middle ground.  So first one would need to qualify what "to any degree" allows.  For instance, is merely sensing and reacting directly to sensory input - which, without evaluating, I suspect your bots can do because that has been a core function in many simulations like this - "conscious to some degree" but not "conscious" in the absolute sense?</div></div></div></blockquote><div><br></div><div>I think it is an all-or-nothing thing proposition.</div></div></div></blockquote><div><br></div><div>And that would seem to be the core of our disagreement. </div></div></div>