@miyayou さんからの8/28の以下のツイートを見て、
「真に自律知能化したソフトウェアは、自分自身を書き換える力を持つ。」
なるほどと思いつつ少し考えた。自分自身を書き換えるには、まず外界に何かをすることができなくてはならない。
意識を持つ人工知能はそう遠くはないと思うけど、外界に何かをするシステムは、つぎの（少しだけ進んだ）ステップになると思う。例えば、まず、「外界から情報入手して欲求を満たす」などの記憶（経験）を収集する必要がある。
「外界に対し、何か足跡を残す」ためには、「実際にトライして（外界側が）変化して欲求を満たす」経験するか、偽の記憶：「○○をトライしたら満足した」等の記憶を重ねる必要が有ると思われる。（連想するための記憶（経験or本能）が無いと行動を思い付きさえしない…）これはちょっと大事な事だと思う。
1つ目の、実際のトライは、「外界に対し何か働きかけて（ことばの入力に対する反応でも可）、その反応を理解し、それが自己の欲求に対しどうだったか？」というエピソード記憶を蓄積することになる。その蓄積が有ることにより、関連するインプットが有る時に、「選択肢として」外界への働きかけが生じる。この場合はまず、実際のトライが人工知能にとって非常にチャレンジングになる。
2つ目の、偽の記憶はここでは本人（当の人工知能）が実際には経験していないのに持っている記憶のこと。
現在の人工知能を考える際に、必ず考えなければならない「打ち込み」の類。例えば5歳児相当の人工知能として世の中に出す場合は5歳児レベルの打ち込みが必要で、ここではこのことを打ち込みと呼ぶ。1つ目で書いたように、実際のトライは人工知能にとってチャレンジング：外界へのトライ自体、最初のトライはよほど条件がそろわないと発生しないと思われるし、そのトライも的確でなく見当外れである可能性も高い。「○○をトライしたら満足した」という記憶が生じ、さらに蓄積されるのを自然発生的に求めるのは、設計条件や境界条件が幸運にそろわないといけないので、実現のために宇宙の年齢に達しないように、あらかじめ偽の記憶として打ち込むことは考慮の必要が有ると思う。
記憶を丸ごとコピーする場合や、人格の複製、さらにはテレポート装置のパラドクス（？…人を情報信号化し電送する。…もとの人は破壊されても良いのか…皇帝の新しい心にも紹介が有った。）にも関連してくる。
「実際にトライして（外界側が）変化して欲求を満たす経験をする」ことは、何か問題が生じた時、その経験の記憶を連想することで行動の選択（の可能性）に繋がる。いつもの「連想→意識 仮説」や「連想→疑似自由意志 仮説」そのものの考え方だけど、一般的ではないので敢えて言ってみる。
※以上、8/28のtwitterへのpostをもとに加筆・修正。
keyword: 人工知能
