Восьмой студийный альбом Бека был спродюсирован Danger Mouse и является самым коротким по длительности в дискографии музыканта (33 минуты). В записи также приняла участие Cat Power. Modern Guilt стал последней пластинкой, выпущенной им в рамках долгосрочного контракта с Geffen. Основные темы альбома: мировой кризис, загрязнение окружающей среды и неуверенность в завтрашнем дне.