・ ユーザーに (nentsel) で選択させたオブジェクトがブロック図形にネストされているかどうか判断する

(nentsel) はブロック図形にネストされた構成要素を選択した場合、4つの要素を含むリストを返します。
したがって、リストの要素数を調べて、４つかどうかの判定式で判断できます。

(setq ent (nentsel))
(if (= 4 (length ent))
  (princ "\n選択したオブジェクトは INSERT 図形にネストされています")
  (princ "\n選択したオブジェクトは INSERT 図形にネストされていません")
  )

この場合、(nentsel) で返される４番目のリストは、選択したオブジェクトが含まれるブロック図形名を含むリストです。
ブロック図形がネストされた構造になっている場合、一番内側のブロックの図形名から始まり、図面に挿入されたブロックの図形名がみつかるまで外側に続きます。

また、図形タイプ DIMENSION や R13 以前のハッチングも一種のブロック図形として扱われていますので注意が必要です。
これらを判定するには、４番目のリストの１番目の図形のブロック名を調べ、ブロック名の頭の文字が"*D" "*X" かどうかで、判断できます。

(setq ent (nentsel) )
(if (= 4 (length ent) )
  (progn
    (setq bn (cdr (assoc 2 (entget (car (cadddr ent))))))
    (cond
      ((wcmatch bn "*`*D*")(princ "\n寸法オブジェクトを選択" ))
      ((wcmatch bn "*`*X*")(princ "\n旧形式のハッチングを選択" ))
      )
    )
  )