this.elem('elemName').not(this.elem('elemName', 'modName', 'modVal'));

Ну, так я тоже могу ;) Хочется конечно возможности получить нужное без дополнительной фильтрации.

т.е. ты хочешь отфильтровать без фильтра? :)

/**
     * Lazy search for elements nested in a block (caches results)
     * @param {String} names Nested element name (or names separated by spaces)
     * @param {String} [modName] Modifier name
     * @param {String|Boolean} [modVal=true] Modifier value
     * @returns {jQuery} DOM elements
     */

Вот дефолтное значение у Modifier value заставило меня думать, что false для булевых модификаторов даст нужный результат.