Estou tentando descobrir como configurar um switch (relê), integrado à um ESP8266, para restaurar o modo que ele estava antes de uma reinicialização do dispositivo. Teria algum jeito de fazer isto?
Sim, se você usa esphome tem ajustes para isso. Se você está criando código customizado você pode criar arquivos de texto na memória flash e ir atualizando o conteúdo desses arquivos. Ai basta ler o arquivo no boot do mcu. A única questão é que depois de muitos writes a memória estraga (isso qualquer memória flash), mas a do esp8266 costuma ter resistência menor que do esp32. Além disso o esp8266 não tem suporte a um filé system com bom wear leveling, ou seja você vai ficar rescrevendo no mesmo pedaço da memória fazendo estragar mais rápido.
Ela aguenta geralmente cerca de 10 mil escritas, então se o relê for usado como switch de luz provávelmente não é um problema salvar toda vez que trocar o estado. Mas fica a dica caso queira adicionar algum tipo de sensor salve o dados apenas a cada algum tempo não salve toda vez que ler o sensor.
Só para confirmar, minha resposta anterior assumiu que com modo você quer dizer relê liga ou desligado. Era isso mesmo ou você quer saber sobre voltar o firmware de fábrica?